Рубрика, где-то в США 😢

Кажется, светилы ИИ индустрии уже в открытую говорят, что мы на пороге глобального шухера с их "игрушками".

Глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи заявил в своем блоге:

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты».

Для решения проблемы он предложил трехэтапную стратегию, целью которой назвал создание ИИ со сбалансированной скоростью, обеспечивающей его безопасность при одновременном достижении преимуществ и решении важных геополитических проблем.

«Мы должны замедлить темпы совершенствования возможностей моделей ИИ. Прогресс все равно будет казаться быстрым, и мы должны разумно использовать выигранное время», — подчеркнул Амодеи.

Илон Маск на своей странице в X поддержал призыв генерального директора Anthropic к замедлению темпов разработки ИИ. «Дарио прав», — написал он. Маск владеет компанией xAI, которая разрабатывает модель Grok. Глава OpenAI (разрабатывает ChatGPT) Сэм Альтман также высказался в поддержку инициативы. «Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — написал он.

Ранее исследователь Anthropic Джейкоб Коксон уволился и решил покинуть индустрию искусственного интеллекта из-за опасений, что разработчики ИИ слишком быстро создают системы, способные самостоятельно совершенствоваться. Он предупредил, что уже к концу 2027 года ситуация с развитием ИИ «может выйти из-под контроля».

Тогда же специалист по безопасности ИИ, работающий в совете директоров OpenAI, Пол Кристиано предупредил о риске гибели большей части человечества, в случае если сверхмощный ИИ выйдет из-под контроля. Маск также ранее уже предупреждал о рисках бесконтрольного развития искусственного интеллекта. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе».

Источник: