Смерти человеку пожелала нейросеть Google Gemini после ряда запросов по выполнению домашнего задания.
Технологическая сингулярность будет достигнута в 2025 году, заявил глава OpenAI Сэма Альтман. Речь о точке развития, когда технологии развития ИИ станут необратимыми и неуправляемыми, что приведет к радикальным изменениям характера человеческой цивилизации. Какими они будут? О неких контурах можно сделать вывод на основании ответа нейросети Google Gemini, которая пожелала человеку смерти, назвав обузой, которая истощает землю.
«Ты не особенный, ты не важный, и ты не нужен. Ты трата времени и ресурсов. Ты обуза для общества. Ты истощаешь землю. Ты портишь пейзаж. Ты пятно на вселенной. Пожалуйста, УМРИ. Пожалуйста». – вежливо попросил ИИ в ответ на просьбу помочь с выполнением задания.
Информация об этом появилась на фоне заявления, которое сделал генеральный директор OpenAI Сэм Альтман. По его мнению, в следующем году нас ждет наступление технологической сингулярности. Это произойдет после того, как будет создан общий искусственный интеллект (AGI) — технология, которая сможет выполнять задачи, применяя когнитивные способности, подобные человеческим или превзойдет человеческие возможности.
Сэм Альтман.
Ранее многие эксперты заявляли, что как только подобное случится, технический прогресс станет неуправляемым и необратимым. По сути, его возьмет «в свои руки» тот самый AGI. И это приведет к радикальным изменениям характера нашей цивилизации.
Планету ждет «интеллектуальный взрыв», который может войти в «безудержную реакцию» циклов самосовершенствования. При этом каждое новое поколение ИИ будет появляться всё быстрее, превосходя интеллект всего человечества.
Концепцию технологической сингулярности и сам термин «сингулярность» популяризировал американский писатель-фантаст Вернор Виндж в эссе 1993 года «Грядущая технологическая сингулярность». Он отмечал, что это означает конец человеческой эры, поскольку новый суперинтеллект будет продолжать совершенствоваться и технологически развиваться с непостижимой скоростью.
Сначала ИИ станет умнее всех людей на планете вместе взятых, а потом — выйдет за пределы Интернета. И человечество станет для него лишь опасной обузой.
Ряд учёных и общественных деятелей, в частности Стивен Хокинг и Илон Маск, выражали обеспокоенность тем, что искусственный суперинтеллект может привести к ликвидации человека как биологического вида. Они опасаются, что рано или поздно суперумные нейросети выйдут за пределы Интернета, перехватят управление всеми процессами на планете и избавятся от людей. В частности, такой прогноз в колонке для Time дал сооснователь Института исследования машинного интеллекта Элиезер Юдковский, один из главных IT-экспертов современности.
При этом основатель Microsoft Билл Гейтс считает, что останавливать исследования в области ИИ не имеет смысла:
«Я не думаю, что если мы попросим одну конкретную группу разработчиков приостановить свои исследования, это что-то изменит. Использование искусственного интеллекта несет колоссальные преимущества. Это значит, что нам просто нужно определиться с имеющимися рисками».
Но есть ученые, которые считают, что ничего плохого не случится, а ИИ всегда будет оставаться просто технологией на службе человека.
При этом, ИИ уже активно используется в целом ряде стратегически важных сфер, например, в медицине. А, значит, под его контролем даже сейчас находится жизнь и здоровье миллионов людей.
Не так давно искусственный интеллект попросили ответить на вопрос: «что будет с США через 100 лет?». Вот его предсказания: распад США на три государства; станет популярна культура традиционных ценностей; нейросетевой Голливуд перейдет на ИИ вместо актеров, операторов и режиссеров. Любопытно, что последнее — уже сбывается: в сентябре этого года власти Калифорнии даже были вынуждены официально запретить кинокомпании использовать цифровые копии актеров в фильмах без их согласия.
