Приостановите масштабные эксперименты с ИИ: открытое письмо
Некоммерческая организация Future of Life опубликовала письмо, в котором глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4».
Приостановите масштабные эксперименты с ИИ: открытое письмо
Системы ИИ с интеллектом, конкурирующим с человеком, могут представлять серьезные риски для общества и человечества, как показали обширные исследования и признаны ведущими лабораториями искусственного интеллекта. Как указано в широко одобренных Принципах ИИ Asilomar, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соответствующей осторожностью и ресурсами. К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать.
Современные системы ИИ в настоящее время становятся конкурентоспособными в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые выполняют? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти численностью, перехитрить, устареть и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения нельзя делегировать неизбранным техническим лидерам. Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффект будет положительным, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с увеличением величины потенциальных эффектов системы. Недавнее заявление OpenAI, касающееся общего искусственного интеллекта, гласит, что "В какой-то момент может оказаться важным получить независимую оценку, прежде чем начинать обучать будущие системы, и для наиболее продвинутых усилий согласиться ограничить темпы роста вычислений, используемых для создания новых моделей". Мы согласны. Этот момент настал.
Поэтому мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на 6 месяцев подготовку систем искусственного интеллекта, более мощных, чем GPT-4. Эта пауза должна быть публичной и поддающейся проверке и включать всех ключевых участников. Если такая пауза не может быть введена быстро, правительствам следует вмешаться и ввести мораторий.
Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для продвинутого проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений, безопасны. Это не означает паузу в разработке ИИ в целом, просто отступление от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями.
Исследования и разработки в области ИИ следует переориентировать на то, чтобы сделать сегодняшние мощные, современные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными.
Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны, как минимум, включать: новые и дееспособные регулирующие органы, занимающиеся ИИ; надзор и отслеживание высокопроизводительных систем ИИ и больших пулов вычислительных возможностей; системы происхождения и водяных знаков, помогающие отличать реальные от искусственных и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за причиненный ИИ вред; надежное государственное финансирование технических исследований в области безопасности ИИ; и учреждения с хорошими ресурсами для преодоления драматических экономических и политических потрясений (особенно для демократии), которые вызовет ИИ.
Человечество может наслаждаться процветающим будущим с ИИ. Преуспев в создании мощных систем искусственного интеллекта, мы теперь можем наслаждаться "летом искусственного интеллекта", в течение которого мы пожинаем плоды, разрабатываем эти системы на явную пользу всем и даем обществу шанс адаптироваться. Общество приостановило другие технологии с потенциально катастрофическими последствиями для общества. Мы можем сделать это здесь. Давайте наслаждаться долгим искусственным летом, а не бросаться неподготовленными в осень.
Письмо опубликовано 22 марта 2023 года . На сегодняшний день письмо подптсали 3 637 человек, а первыми, среди подптсавших были:
Илон Маск — технологический лидер современного человечества,
Стив Возняк — основатель гиганта Apple,
основатели сайтов Pinterest, Ripple, Getty Images, Skype,
ряд учёных в области компьютерных технологий.
Стив Возняк, Илон Маск и Юваль Ной Харари — одни из самых известных фигур, подписавших открытое письмо.
