Сайт дня — GPU Memory Calculator. Это калькулятор, который быстро посчитает, хватит ли вашей видеокарты для запуска локальной LLM.
Достаточно ввести параметры языковой модели. Сервис даже подскажет, насколько эффективно она будет работать на ваших мощностях.
Забираем здесь.
