Ssylka

Позволит ли отказ от SFT в обучении ИИ создать прорыв?

DeepSeek R1-Zero, в отличие от R1, не использует человеческую разметку (SFT) для обучения цепочек рассуждений (CoT), полагаясь исключительно на обучение с подкреплением. Это открытие ставит под сомнение необходимость SFT для создания точных и четких рассуждений в областях, где возможна строгая верификация. R1-Zero демонстрирует, что внутренний язык предметной области может быть сформирован исключительно через оптимизацию RL, хотя SFT по-прежнему требуется для обобщения рассуждений в разных областях.
Позволит ли отказ от SFT в обучении ИИ создать прорыв?
Изображение носит иллюстративный характер

Экономика ИИ претерпевает сдвиги: затраты на обучение переходят в затраты на инференс для повышения точности и надежности. Этот сдвиг обусловлен необходимостью преодоления ненадежности ИИ-агентов, являющейся главным препятствием для их широкого применения. Теперь компании готовы платить больше за надежную работу ИИ, что приведет к росту спроса на вычислительные ресурсы для инференса.

Системы рассуждений открывают новые возможности для обучения ИИ. Они не только улучшают точность ответов, но и генерируют «реальные» данные в процессе инференса. Таким образом, клиенты, платя за использование ИИ, одновременно предоставляют новые качественные данные, которые улучшают модель, создавая самоподдерживающийся цикл. Этот процесс обучения через инференс в конечном итоге может превзойти предварительное обучение на человеческих данных.

Открытость DeepSeek R1 способствует развитию исследований CoT и поиска, что ускоряет прогресс в области ИИ. Это направление исследований может привести к реализации AGI, поскольку появляется возможность масштабировать процесс без участия человека.


Новое на сайте

19019Действительно ли «зомби-клетки» провоцируют самую распространенную форму эпилепсии и... 19018Генетический анализ мумий гепардов из саудовской Аравии открыл путь к возрождению... 19017Вредоносная кампания в Chrome перехватывает управление HR-системами и блокирует... 19016Глубоководные оползни раскрыли историю мегаземлетрясений зоны Каскадия за 7500 лет 19015Насколько глубоки ваши познания об эволюции и происхождении человека? 19014Как уязвимость CodeBreach в AWS CodeBuild могла привести к глобальной атаке через ошибку... 19013Затерянный фрагмент древней плиты пионер меняет карту сейсмических угроз Калифорнии 19012Генетические мутации вызывают слепоту менее чем в 30% случаев вопреки прежним прогнозам 19011Завершено строительство космического телескопа Nancy Grace Roman для поиска ста тысяч... 19010Вязкость пространства и фононы вакуума как разгадка аномалий расширения вселенной 19009Приведет ли массовое плодоношение дерева Риму к рекордному росту популяции какапо? 19008Как уязвимость CVE-2026-23550 в плагине Modular DS позволяет захватить управление сайтом? 19007Может ли уличная драка французского авантюриста раскрыть кризис американского гражданства... 19006Может ли один клик по легитимной ссылке заставить Microsoft Copilot и другие ИИ тайно... 19005Утрата истинного мастерства в эпоху алгоритмов и скрытые механизмы человеческого...