Продолжение…
Вывод для мозга. Поскольку эволюции важно было обучать сложному поведению в постоянно меняющейся среде, а «переобучение» на ограниченном опыте могло быть смертельно опасным, мозг, скорее всего, полагается на модельное обучение и обобщение. Это делает его более гибким, чем системы, которые просто оптимизируют сию минутное вознаграждение.
4. Аппаратное обеспечение мозга: ограничение или преимущество?
Обсуждается, являются ли биологические ограничения мозга (медленные нейроны, шумные сигналы) его слабостью.
Контраст с ИИ. Современные компьютеры работают с высокой точностью и скоростью, что идеально для обратного распространения ошибки и градиентного спуска.
Метафора Марблстоуна: Биологический мозг – это не «аналоговый компьютер» , а скорее «молекулярная фабрика». Его «вычисления» – это физико-химические процессы, причём энергоэффективные, тесно переплетенные с телом, метаболизмом и развитием. Эта интеграция может быть не ограничением, а ключевым элементом, обеспечивающим эффективное, контекстно-зависимое обучение, которое трудно воспроизвести в цифровых системах.
Текущие системы обучения же заточены под математический аппарат в лице метода обратного распространения ошибки и т.п.
К чему все это было?
В интервью красной нитью прослеживается необходимость развития нейробиологии, как средства прогресса в создании более разумного ИИ. Без понимания того, как работает мозг, ИИ может упереться в потолок, преодолеваемый лишь масштабированием и инженерией вокруг, но не качественным скачком технологии.
Добавить комментарий