Руководители ведущих технологических компаний призвали замедлить развитие искусственного интеллекта: причины
Фото: REUTERS
CEO Anthropic Дарио Амодей и CEO OpenAI Сэм Альтман выступили за замедление развития мощнейших систем искусственного интеллекта. Они считают, что это необходимо для усиления безопасности и создания механизмов контроля за развитием технологии.
Об этом говорится в статьях We Must Pace the Frontier и Bloomberg .
Амодей призвал замедлить темпы развития мощнейших систем ИИ, чтобы специалисты по безопасности успевали за ростом их возможностей. Он подчеркнул, что речь не идет о полной остановке прогресса, а о более контролируемом развитии технологии.
Одной из причин беспокойства глава Anthropic назвал рекурсивное самосовершенствование ИИ, когда искусственный интеллект используется для создания и улучшения последующих поколений моделей. По его оценке этот процесс может опередить способность разработчиков понимать и контролировать такие системы.
Амодей также предложил привлекать независимых внешних экспертов для работы ведущих ШИ-компаний, установить общие стандарты безопасности и усилить международную координацию.
Он считает, что дополнительные 1-2 года до появления ИИ с критически высокими возможностями могли бы дать исследователям время для усовершенствования методов безопасности и проверки поведения моделей.
Параллельно CEO OpenAI Сэм Альтман сообщил сотрудникам компании, что OpenAI может замедлить развитие передовых систем ИИ, потенциально координируя подобные действия с другими разработчиками.
Главный ученый OpenAI Якуб Пачоцкий также заявил, что ИИ-компаниям следует координировать замедление будущей разработки при необходимости, пока не будут установлены общие стандарты безопасности.
По данным Bloomberg, OpenAI уже замедлила отдельные этапы разработки моделей и недавно приостанавливала часть внутреннего обучения ИИ из-за опасений безопасности.
При этом Альтман и Амодей не выступают за полный отказ от развития искусственного интеллекта. Речь идет о контроле темпов разработки мощнейших систем и усилении мер безопасности.
Напомним, что в США система распознавания лиц на основе искусственного интеллекта ошибочно обвинила жительницу штата Теннесси Анджелу Липпс в банковском мошенничестве. Поэтому женщина провела почти 6 месяцев в тюрьме, пока доказательства не подтвердили ее невиновность.
Также следите за «Прямым» в Facebook , X , Telegram и Instagram.