Илон Маск призвал приостановить крупные эксперименты с ИИ
Некоммерческая организация Future of Life Institute опубликовала открытое письмо, подписанное Илоном Маском, сооснователем Apple Стивом Возняком, одним из создателей Skype Яаном Таллинном, а также другими исследователями ИИ и руководителями крупных компаний.
В письме утверждается, что лаборатории замкнулись на "выходящей из-под контроля гонке" по разработке и применению систем машинного обучения, которые "никто - даже их создатели - не может понять, прогнозировать или уверенно контролировать". Вот что предлагают авторы:
Мы призываем все лаборатории, работающие с искусственным интеллектом, немедленно приостановить как минимум на 6 месяцев тренировку систем искусственного интеллекта мощнее GPT-4. Приостановка деятельности должна быть публичной и подтверждаемой, и участвовать в ней должны все ключевые игроки. Если в ближайшее время встать на паузу не получится, в дело должны вступить правительства стран и ввести мораторий.
Из открытого письма Pause Giant AI Experiments: An Open Letter
Также в письме выражается неудовлетворённость позицией "выпустим как есть, починим потом" при разработке нейросетей (вспомнить хотя бы Bard от Google). Даже OpenAI уже высказывалась о потенциальной необходимости проверки безопасности ИИ в будущем. Авторы письма считают, что это будущее уже наступило.
Разработчикам ИИ и независимым экспертам стоит использовать этот перерыв, чтобы совместно разработать и внедрить единые протоколы безопасности для сложных ИИ-систем, соответствие которым будет проверяться внешними независимыми экспертами. Такие протоколы помогут убедиться, что системы достаточно безопасны для использования.
Из открытого письма Pause Giant AI Experiments: An Open Letter
Полный текст письма можно прочитать здесь.
Лучшие предложения
Надо брать: USB‑концентратор Orico за 1 717 рублей
16 уютных худи и свитшотов, которые согреют зимой
Выгодно: робот‑пылесос Dreame D10 Plus за 23 431 рубль
Цена дня: смартфон realme Note 60 за 8 920 рублей
15 магазинов, в которые стоит заглянуть во время «чёрной пятницы»
Отборные скидки: выгодные предложения от AliExpress, Tefal, Lamoda и других магазинов
15 товаров со скидками, которые стоит купить во время «Чёрной пятницы» на AliExpress
12 необычных вариантов посуды, которая покоряет с первого взгляда
Внутренние убеждения и карьера: как справиться с мыслями, которые мешают достигать успехов
Рак: почему возникает и как лечится. Гид, который будет полезен всем
Foodtech Tour: 3 факта о митапах от Еком-сервисов Яндекса
Как рассчитать бюджет на ремонт, чтобы обойтись без лишних затрат