Лучшие умы человечества призвали приостановить разработку искуственного интеллекта

Руководителей международных it-компаний, сотрудников отрасли, университетских профессоров и неравнодушных граждан подписались под письмом с призывом остановить разработки в области искусственного интеллекта.

Среди подписантов в том числе основатель Neuralink, гендиректор Twitter миллиардер Илон Маск и соучредитель Apple Стив Возняк. Под письмом, опубликованным на портале futureoflife.org пока 1123 подписи людей, которые уверены в серьёзных рисках для общества и человечества со стороны систем, чей интеллект способен конкурировать с человеческим.

«Лаборатории по созданию ИИ оказались «втянуты в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать. Должны ли мы рисковать потерей контроля над нашей цивилизацией?», — говорится в письме.

Мощные системы ИИ, по мнению подписантов, следует разрабатывать, когда люди будут уверены, что их эффект будет положительным, а риски управляемыми.

Подписанты просят все лаборатории искусственного интеллекта в мире минимум на полгода приостановить подготовку более мощных, чем GPT-4, систем. А также разработать и внедрить протоколы безопасности, исполнение которых будут контролировать внешние независимые эксперты.

Ученые напоминают, что ранее человечество уже остановило клонирование человека и евгенику, то же самое необходимо сделать с неконтролируемыми научными разработками ИИ. Старший вице-президент по инновациям фонда «Сколково» Кирилл Каем, комментируя РБК открытое письмо основателей технологических компаний, рассказал, что скорость его замещения людей определенных профессий сильно переоценена.

Но для мощного искусственного интеллекта (Artificial intelligence, AI) необходимо разработать этические правила, которые нужно изменять постоянно, чтобы они успевали за прогрессом и новыми возможностями ИИ. При этом влияние искусственного интеллекта на рынок труда значительно переоценена.

«Это не один десяток лет, и к тому же это сфокусирует рынок труда на профессиях, где AI пока не силен: творческие специальности, специальности с большим вовлечением, связанные с эмпатией специальности — медицинская помощь, образование, индустрия развлечений», — заявил Кирилл Каем.

Каем считает, что на стыке ИИ и человека возникнет ряд новых специальностей, связанных с обучением, контролем и принятием ответственных решений. А во многих отраслях ИИ останется помощником для анализа большого объема данных, разработке сценариев, расчёту вероятности.

Технический директор Smart Engines (программное обеспечение для распознавания документов) Дмитрий Николаев считает, что необходимо ограничить исследования ИИ с целью защиты базовых прав людей, «ввести понятные правила, которые запретят вредоносное использование ИИ».

При использовании искусственного интеллекта отсутствует законодательная база на запрет их применения в мошеннических целях, «проведение психологических атак на людей».

Руководитель департамента машинного обучения дирекции по ИИ и цифровым продуктам «ВымпелКома» («Билайн») Дмитрий Ермилов призвал думать не об остановке развития искусственного интеллекта, а об ограничении использования таких систем: «Давать его, например компаниям для промышленного использования. Такой такой барьер позволит оградить общество от многих рисков».