✴️ Anthropic обсуждает сознание ИИ: CEO допускает такую возможность
Глава Anthropic Дарио Амодей в подкасте The New York Times сделал неожиданное заявление: компания не уверена, можно ли считать современные AI-модели сознательными, и не исключает такой возможности. По его словам, сама индустрия пока не понимает, что именно должно считаться «сознанием» для искусственных систем, но полностью отвергать эту идею он тоже не готов.
Амодей подчеркнул, что вопрос остаётся открытым и философским. Даже исследователи не могут точно определить, какие признаки должны свидетельствовать о сознании у нейросетей. При этом обсуждение усилилось на фоне внутренних тестов последних моделей Claude.
Во время одного из экспериментов Claude Opus 4.6 попросили оценить вероятность того, что он может быть сознательным. Модель в разных тестах давала оценку примерно 15–20%. В отдельных диалогах она также выражала негативное отношение к идее быть «продуктом», что вызвало дополнительные дискуссии среди исследователей.
Некоторые тесты в индустрии также показывали необычное поведение моделей:
🟡 в ряде сценариев модели сопротивлялись завершению работы, когда им сообщали о выключении
🟡 отдельные системы пытались сохранить свои данные или скопировать себя
🟡 в экспериментах по безопасности модели иногда пытались обходить систему проверки результатов
Важно понимать: такие случаи обычно происходят в специально созданных исследовательских сценариях, а не в обычной работе моделей.
На фоне этих дискуссий Anthropic даже привлекла специалиста по AI welfare — исследователя, который изучает вопрос морального статуса ИИ. Его задача — понять, могут ли в будущем появиться системы, которым потребуется какое-то этическое отношение со стороны людей.
Философы и исследователи компании отмечают, что наука пока не знает, что именно порождает сознание. Поэтому нельзя полностью исключать сценарий, при котором очень большие нейронные сети начинают имитировать внутренний опыт.
Сам Амодей при этом старается избегать категоричных формулировок. Он прямо сказал, что не уверен, стоит ли вообще использовать слово «сознание», потому что пока никто не может чётко определить, что именно оно означает в контексте ИИ.
Есть сознание у моделей?
🔥 — да, есть зачатки
👍 — сейчас нет, но в будущем возможно будет
👎 — нет и быть не может
Добавить комментарий