Почему стоит бояться ИИ

Не то что бы какой-то деф. На мой взгляд некоторые смотрят на нейронки не под тем углом, и не очень дальновидны.

Если кратко - почти всё дело в военке, а точнее в кибероружии.

Предвзятое отношение к ИИ.

Люди почти во всех спорах используют свой субъективный опыт работы с нейросетями, что в корне неверно.

Даже самые умные челы, лучшие математики и программисты, с хорошим критическим мышлением, которые занимаются разработкой ИИ(в том числе и в РФ), а не просто прочитали пару статеек, на вопрос "куда может привести дальнейшее вертикальное развитие ИИ?" - пожимают плечами. А некоторые такой неизвестности даже боятся. У меня пара знакомых годами занимаются разработкой ИИшек. Они никогда не стали бы так однозначно судить о них, так как даже при их знаниях и опыте они понимают что знают очень мало, и сложно предугадать что будет дальше. Остается лишь опираться на то что происходит здесь и сейчас.

Дело вообще не в деньгах.

ИИ в первую очередь как и все технологии подобного уровня в прошлом(будь то чипы, интернет, ракеты и тд) представляет ценность для мирового господства. Как военного, так и информационного и экономического.

ИИ это не только картиночки и ответики в гугле. Для многих тут это будет открытием. В министерстве обороны РФ давно обсуждают способы противодействию нейронкам(во тупые наверное, боятся какого-то пузыря), и проводят регулярные брифинги на эту тему. Создают спецсофт и его развивают, постоянно работают над тем чтобы сильно не отставать. Это одна из приоритетных задач. Так же обсуждают и проводят новые способы внедрения ИИ в военную сферу, причем самые разные кейсы: учет ВС, противодействие ракетам и дронам, целеуказание, автоматизация, разведка. Даже планирование. США и Израиль прямо сейчас пользуются ИИ для координации ударов и для поиска целей.

А это только самое поверхностное применение.

Сейчас уже появляются случаи как школьники взламывают целые системы вайбкодя на нейронке. В перспективе ситуация может усугубиться. В будущем группа спецов с обученной нейронкой может запускать огромное количество ботов управляя мнением масс. Распространять фейки и пропаганду. Взламывать базы данных крупных корпораций. Такое уже происходит. Что если ЦРУ взломает и обнулит все базы данных или счета граждан сразу нескольких крупных банков целой страны? Или положит системы логистики, центры управления полётами? И придумать можно еще много чего.

К сожалению в РФ эту гонку уже проиграли. Даже смею предположить что если в ближайшем будущем не будет нормальной системы противодействия ИИ они могут прорабатывать запасной план, который не факт что будет эффективен - полное очебурнечивание.

Китай и США вступили в гонку на уровне космической. Сша в каком-то плане повезло иметь под крылом конкурирующие мегакорпорации и всё пока само развивается. Даже если кто-то не выживет - гонка не остановится. Пока тут пишут про пузырь(который если и сдуется, к тому времени многих таких предсказателей может уже не стать), правительство США продолжает подкидывать дров в этот котёл.

Почему сами корпы боятся и хотят затормозить развитие ИИшки?

Моё предположение:

Опен Аи и другие корпы вынуждены рашить обучение нейронок и ее мощности, из за конкуренции. Как следствие они не успевают протестировать все возможные последствия и проблемы. Они могут навредить как сами себе, так и наломать таких дров, что их нейронка напортачит другим крупным компаниям и их просто закидают исками. И конкуренты в такой же ловушке. Либо они проиграют гонку и погибнут потеряв кучу вложенных денег. Либо они будут рашить несмотря на все риски. И

Просто попросить друг друга остановиться они не могут(кто-то обязательно не послушает). Эта ситуация похожа на сцены из старых боевиков, где все направили друг на друга оружие и пытаются договориться его опустить.

В итоге они нашли единственный адекватный способ - попросить правительство самому их ограничить. Правительству это невыгодно, ведь нужно опередить Китай.

Цены на оперативочку - самая незначительная жертва, в свое время на подобную гонку были развёрнуты экономики целых стран почти на полную.

Этот самый ИИ пузырь про который тут пишут, такой же пузырь как первые полёты в космос в своё время(в итоге оно того стоило и теперь у нас есть хорошее средство для доставки ЯО). Про лунную гонку несведущие так же писали что это пузырь. Ну че они там средства осваивают. Только тратят деньги а выхлопа никакого. Лунная гонка в итоге определила мирового лидера в битве за влияние.