Люди впервые испугались своего создания: Почему Маск и Возняк выступили против искусственного интеллекта.

На прошлой неделе Илон Маск, Стив Возняк, а также профессора Гарварда и Кембриджа и ещё более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме говорится, что ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Там же упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Илон Маск открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем, несмотря на то, что его компания Tesla давно использует элементы искусственного интеллекта в своих системах автопилота.

Еще один специалист в области искусственного интеллекта Елиэзер Юдковский, который призывает ограничить вычислительные мощности для обучения ИИ во всём мире, выступил с довольно смелым предложением — уничтожать ЦОД большой производительности, если любая из стран попытается построить такие мощности. Впрочем, сам Юдковский сделал как никто много для ускорения развития «общего искусственного интеллекта» (AGI). Он опубликовал заметку в Time Magazine, в которой отчаянно бьёт тревогу, утверждая, что само существование человечества и даже биологических форм жизни находится под вопросом из-за неконтролируемого развития ИИ — если кому-нибудь удастся построить достаточно производительный ИскИн, способный осознавать себя.

Но есть и такие которые не подписали письмо, например, основатель Microsoft Билл Гейтс. В прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман, по данным представителя Future of Life, тоже не подписывал письмо, а в самой компании отказались от комментариев. Не подписал письмо исполнительный директор Apple Тим Кук. Нет официальной позиции Google, хотя есть бывшие сотрудники этого IT-гиганта.

Почему именно сейчас появилось такое письмо, в эпоху всеобщей эйфории по поводу нейросетей, когда к чуть ли не каждый день появляется какой-то позитивный инфоповод? То нейросеть картину необычную нарисовала, то сдала экзамены в университет… есть мнение, что это как раз связано с тем, что технология вышла из стен лабораторий и получила массовое применение. ChatGPT, о котором все говорят, демонстрирует самые высокие темпы роста пользователей, оставив далеко позади феномен самых популярных социальных сетей. Конкуренты почувствовали, что одна корпорация слишком сильно вырвалась вперед. Поэтому они хотят Microsoft немного притормозить.

Однако есть еще один слой. Это тревога по поводу способности человечества контролировать развитие технологий. Такие идеи высказывал Стив Возняк, который всегда был противником искусственного интеллекта и всевластия больших корпораций. Искусственный интеллект сам по себе, как идея, как наука - совершенно безобиден. Но этот инструмент обладает колоссальными возможностями и надо понимать, в чьи руки он попадет. Приведём такую аналогию: в своё время Альберт Эйнштейн возглавил большую делегацию физиков из Германии, которая обратилась к президенту США Франклину Рузвельту. Ученые сказали: мы стоим на пороге создания ядерного оружия, но эта технология не должна попасть в руки Гитлера, давайте мы отдадим ее вам. В те времена Америка рассматривалась, как надежда человечества - новая страна, оплот демократии, не участвовала в развязывании мировых войн и т.д. Но потом Эйнштейн очень сильно жалел об этом решении, потому что первое, что сделала Америка, получив в руки ядерное оружие, это применила его во время бомбардировок Хиросимы и Нагасаки. В случае с ИИ ситуация гораздо сложнее…

Произошло событие, последствия которого мы не очень хорошо себе представляем. Сегодня все люди верят Google и Википедии, потому что это массовые и очень достоверные ресурсы. Но ChatGPT и нейросети, которые его превзойдут, будут еще более массовыми и более точными. Впервые на планете появился разум, который будет обладать неслыханным влиянием на умы людей: 8 миллиардов человек смогут общаться с одним искусственным разумом. Но вот проблема: когда мы читаем книгу, мы знаем кто ее написал и можем судить - доверять этому человеку или нет. А кто автор сверхразума, который сейчас создается? Этого не знает никто.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник: Reuters

Александр Григорьев ЦСО "Крокус"