Соучредитель Anthropic Джек Кларк хочет, чтобы индустрия искусственного интеллекта затормозила, прежде чем технология сможет начать развиваться без участия человека.
Выступая на BBC’, Кларк сказал, что 80 процентов работы по кодированию Anthropic’ уже выполнено AI Claude, и что этот показатель может возрасти до 100 процентов ’ в течение нескольких лет. “ сказал, что это был выбор, позволят ли компании ИИ зайти так далеко, не останавливая его.
Clark, “ сказал, что мы думаем, что это тема, о которой мир должен поговорить больше. “Индустрия искусственного интеллекта в настоящее время имеет педаль акселератора, но у автомобиля нет педали тормоза, и мы хотим сделать некоторую работу, чтобы создать эту педаль.”
Согласно Anthropic’ в блоге в четверг вечером, этот процесс называется “ рекурсивное самосовершенствование”, и в процессе, искусственный интеллект может улучшить себя без участия человека.
Anthropic сказал, что в рекурсивной модели агенты ИИ, которые являются автономными работниками, созданными чат-ботом “, могут стать достаточно способными для создания и обучения своих собственных моделей ”, поэтому ’Claude “ может постоянно совершенствоваться.
Anthropic предупреждает, что рекурсивный ИИ может принести некоторые преимущества в области науки и здравоохранения, но это может означать, что “ увеличивает риск того, что люди потеряют контроль над системами искусственного интеллекта.
В своем блоге он пишет: “Systems полностью способны создавать своих собственных преемников, то, как мы их защищаем, отслеживаем и формируем их поведение, становится гораздо более важным.”
Есть свидетельства того, что итерация рано или поздно наступит в собственной модели Anthropic’. Это говорит о том, что показатели исправления кода их сотрудников неуклонно снижались в течение прошлого года, что означает, что в том, что производит Claude’, меньше ошибок.
Клод также может проводить свои собственные исследовательские эксперименты, когда ему задают открытый вопрос, такой как “, и создавать свои собственные решения без вмешательства человека.
Об этом говорится в блоге: “Evidence показывает, что роль людей уменьшается на каждом этапе процесса разработки ИИ.”
Антропик сказал, что институт будет проводить исследования для создания системы, которая будет контролировать, действительно ли разработчики останавливают или замедляют прогресс в направлении рекурсивного искусственного интеллекта.
Но реальное замедление, “, потребует, чтобы большое количество хорошо обеспеченных лабораторий в нескольких странах, на границе или вблизи границы, согласились стоять на тех же условиях.
