14 мин чтения
Своя голова решений: обучение, калибровка и пределы System-1
Обучили свой решатель и проверили калибровку. На свободных формулировках качество резко упало.
Блог Кодло / бортовой журнал
Разборы
изнутри.
Замеры и исходники
Разбираем свои системы по замерам и исходникам. Пишем о результатах, отказах и проверках.
05 разборов~12к словRSS ↗
Темы
Все разборыСначала новые ↓
-
-
11 мин чтения
Локальное распознавание речи на малине
Whisper base с русским языком и рабочим лексиконом. Что видно по времени распознавания и чего мы пока не замерили.
-
14 мин чтения
Локальный инференс на своём железе
Малина управляет запросами, модель работает на ПК. Проверяем кванты, контекст, выгрузку весов и скорость генерации.
-
13 мин чтения
Какое плечо модели нужно какой задаче
Сравниваем модели и усилия рассуждения на одинаковых задачах. Проверяем результаты прогонов и стоимость принятой работы.
-
13 мин чтения
Как судить работу модели, если её ответу не доверяешь
Сверяем отчёт агента с патчем, воспроизведением и тестами. Разбираем расхождения между завершением агента, приёмкой и ревью.