ChatGPT учится по формуле, которой почти 180 ЛЕТ
Это градиентный спуск: w ← w − η∇L. На нём
учится любая современная нейросеть, а придумали его не в OpenAI и не в Google. В 1847 году французский математик Огюстен Коши
искал способ быстрее считать орбиты планет.
Представьте, что стоите на горе в густом тумане. Низа не видно, но уклон под ногами чувствуется: шагаем туда, где круче вниз, снова щупаем склон и шагаем опять. У нейросети гора — это её ошибки, а долина — правильные ответы. Только измерений у этой горы не три, а миллиарды.
Выходит, Коши тренирует ИИ уже 180 лет и даже не в курсе.
😎КиберПоток
/
Навигация
#офтоп #ии #наука
