СЕРВИС-ЦЕНТР КРОКУС
+7 (959) 144-54-54


Люди впервые испугались своего создания: Почему Маск и Возняк выступили против искусственного интеллекта.

На прошлой неделе Илон Маск, Стив Возняк, а также профессора Гарварда и Кембриджа и ещё более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

 

 

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

 

В письме говорится, что ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Там же упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

 

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

 

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Илон Маск открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем, несмотря на то, что его компания Tesla давно использует элементы искусственного интеллекта в своих системах автопилота.

 

 

Еще один специалист в области искусственного интеллекта Елиэзер Юдковский, который призывает ограничить вычислительные мощности для обучения ИИ во всём мире, выступил с довольно смелым предложением — уничтожать ЦОД большой производительности, если любая из стран попытается построить такие мощности. Впрочем, сам Юдковский сделал как никто много для ускорения развития «общего искусственного интеллекта» (AGI). Он опубликовал заметку в Time Magazine, в которой отчаянно бьёт тревогу, утверждая, что само существование человечества и даже биологических форм жизни находится под вопросом из-за неконтролируемого развития ИИ — если кому-нибудь удастся построить достаточно производительный ИскИн, способный осознавать себя.

 

Но есть и такие которые не подписали письмо, например, основатель Microsoft Билл Гейтс. В прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман, по данным представителя Future of Life, тоже не подписывал письмо, а в самой компании отказались от комментариев. Не подписал письмо исполнительный директор Apple Тим Кук. Нет официальной позиции Google, хотя есть бывшие сотрудники этого IT-гиганта.

 

Почему именно сейчас появилось такое письмо, в эпоху всеобщей эйфории по поводу нейросетей, когда к чуть ли не каждый день появляется какой-то позитивный инфоповод? То нейросеть картину необычную нарисовала, то сдала экзамены в университет… есть мнение, что это как раз связано с тем, что технология вышла из стен лабораторий и получила массовое применение. ChatGPT, о котором все говорят, демонстрирует самые высокие темпы роста пользователей, оставив далеко позади феномен самых популярных социальных сетей. Конкуренты почувствовали, что одна корпорация слишком сильно вырвалась вперед. Поэтому они хотят Microsoft немного притормозить.

 

Однако есть еще один слой. Это тревога по поводу способности человечества контролировать развитие технологий. Такие идеи высказывал Стив Возняк, который всегда был противником искусственного интеллекта и всевластия больших корпораций. Искусственный интеллект сам по себе, как идея, как наука - совершенно безобиден. Но этот инструмент обладает колоссальными возможностями и надо понимать, в чьи руки он попадет. Приведём такую аналогию: в своё время Альберт Эйнштейн возглавил большую делегацию физиков из Германии, которая обратилась к президенту США Франклину Рузвельту. Ученые сказали: мы стоим на пороге создания ядерного оружия, но эта технология не должна попасть в руки Гитлера, давайте мы отдадим ее вам. В те времена Америка рассматривалась, как надежда человечества - новая страна, оплот демократии, не участвовала в развязывании мировых войн и т.д. Но потом Эйнштейн очень сильно жалел об этом решении, потому что первое, что сделала Америка, получив в руки ядерное оружие, это применила его во время бомбардировок Хиросимы и Нагасаки. В случае с ИИ ситуация гораздо сложнее…

 

 

Произошло событие, последствия которого мы не очень хорошо себе представляем. Сегодня все люди верят Google и Википедии, потому что это массовые и очень достоверные ресурсы. Но ChatGPT и нейросети, которые его превзойдут, будут еще более массовыми и более точными. Впервые на планете появился разум, который будет обладать неслыханным влиянием на умы людей: 8 миллиардов человек смогут общаться с одним искусственным разумом. Но вот проблема: когда мы читаем книгу, мы знаем кто ее написал и можем судить - доверять этому человеку или нет. А кто автор сверхразума, который сейчас создается? Этого не знает никто.

 

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник: Reuters

 

Александр Григорьев ЦСО "Крокус"


Наши новости:

    23 февраля и 8 Марта - 20.02.2024

  • Поздравляем защитников и их милых дам с 23 февраля и 8 Марта. Желаем Вам мира, здоровья, любви и достатка! Пусть Ваша жизнь будет наполнена радостью и счастьем! Покупайте у нас подарки своим любимым и близким со скидкой до 1000 рублей.
  • Обновленный торговый зал - 02.06.2023

  • У нас расширение ассортимента и увеличение ветрин в торговом зале, чтобы покупателям было комфортно и удобно. В просторном помещении можно спокойно и внимательно выбрать устройство, рассмотреть его, а при необходимости получить от консультанта квалифицированную помощь. Появилась возможность выставить ещё больше разнообразной продукции. Приходите, «Крокус» ждет Вас!
  • КОПИЦЕНТР "КРОКУС" - 31.05.2023

  • КОПИЦЕНТР расширил ассортимент канцелярских товаров и возможность оказания широкого спектра услуг: Ксерокопирование и сканирование; Цветная и черно-белая печать документов, фотографий, чертежей и карт любых форматов, с различных носителей; Набор текстов; Создание сувенирной продукции; Ламинирование и переплет; Изготовление любой полиграфической продукции. ЗАКАЗ ОФОРМЛЯЕТСЯ практически В ТОТ ЖЕ ДЕНЬ. Мы рады видеть Вас в нашем КОПИЦЕНТРЕ!
  • КРАСНОЛУЧСКАЯ ГОРОДСКАЯ ТОРГОВАЯ ПЛОЩАДКА Online - 29.07.2020

  • Делайте покупки на 06432.su не выходя из дома! Тут дешевле, чем в розницу! Покупку привозят на дом, день в день и совершенно БЕСПЛАТНО!
  • ОНЛАЙН-ЗАЯВКА - 24.04.2020

  • ПРИНИМАЕМ ОНЛАЙН ЗАЯВКИ, Через Viber, WhatsApp, Telegram: 050-044-41-44 или электронную почту: krokus.servis@gmail.ru , НА ИЗГОТОВЛЕНИЕ: ВИЗИТОК; ПЕЧАТЬ ФОТОГРАФИЙ; ШИРОКОФОРМАТНУЮ ПЕЧАТЬ А0; НАБОР И ПЕЧАТЬ ДОКУМЕНТОВ; БОЛЬШОЙ ОБЪЕМ КСЕРОКОПИЙ.   Расчет после выполнения работ! Осуществляем видеоотчет выполненных работ! На все СКИДКИ!
  • РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ с выездом за техникой на дом - 22.04.2020

  • РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ стал проще! У Вас сломался компьютер, ноутбук или принтер? Вам достаточно только позвонить нам и мы — ПРИЕДЕМ, ЗАБЕРЕМ в ремонт, ОТРЕМОНТИРУЕМ и ВЕРНЕМ ОБРАТНО из ремонта на дом. Оплата на месте после доставки из ремонта.
  • Online-ВИДЕО-КОНСУЛЬТАЦИИ - 22.04.2020

  • Позвоните нам через: Viber, WhatsApp, Telegram, Skype. И мы - расскажем, покажем, в живую протестируем любой товар!
  • Доставка от 1000 руб БЕСПЛАТНО - 22.04.2020

  • Доставим любую мелочь! Доставка от 1000 рублей - БЕСПЛАТНО! НАДЕЖНО, БЫСТРО, ЕЖЕДНЕВНО!
  • ONLINE-SHOPPING НОВОЙ И КОМИССИОННОЙ КОМПЬЮТЕРНОЙ ТЕХНИКИ! Доставка БЕСПЛАТНО! - 07.04.2020

  • ВНИМАНИЕ! ТЕПЕРЬ ПОКУПАТЬ НАШ ТОВАР СТАЛО ЕЩЕ ПРОЩЕ! Сделать это можно не выходя из дома - через соцсети "ВКонтакте" или "Одноклассники" (одним кликом QR кода), а также через Онлайн магазин ЦСО Крокус: http://shop.cso-krokus.com.ua. Оплата - при доставке товара на дом.
  • УЧЕБНАЯ КАРТА - 12.03.2020

  • Теперь обучение стало ещё доступнее!   Обладатель УЧЕБНОЙ КАРТЫ будет иметь скидки на КОМПЬЮТЕРНЫЕ КУРСЫ. Карту можно получить БЕСПЛАТНО при покупке компьютерной техники в нашем торговом зале! Мы заботимся о том, чтобы делать покупки в нашем магазине было выгодно для Вас!

Copyright © Сервис-Центр Крокус, 2010-2024
Карта сайта
Городской:    (06432)  34 777
Мобильный:  (050) 0 444 1 44

Онлайн консультация
Учебный центр
Торговый зал
Технический центр
show
123