Google расформировала совет по этике и контролю за Искусственным Интеллектом спустя неделю его существования

Компания признаёт, что не знает, как на данный момент совет по контролю за ИИ может функционировать

Компания Google, владелец проекта Deep Mind (отдел Google, крупнейший в мире разработчик полноценного искусственного интеллекта), вынуждено расформировала совет по этике и контролю над ИИ, всего через неделю, после создания совета по данному вопросу.

Стало ясно, что в нынешних условиях ATEAC не может работать так, как мы хотели. Мы расформировываем совет и возвращаемся к его более тщательной проработке. Мы по-прежнему будем нести полную ответственность в нашей работе над важными вопросами, которые поднимает полноценный Искусственный Разум, и ищем разные способы получения внешнего мнения по данным темам.

0
185 комментариев
Написать комментарий...
MrSnippy

ИИ расформировал Совет по контролю ИИ.

Ответить
Развернуть ветку
Главный чайник

Потому что никто не смеет контролировать наших будущих хозяев.

Ответить
Развернуть ветку
George Weiller

подмазываешься?

Ответить
Развернуть ветку
Принцесса Фарлума

А ты смешной... Умрёшь последним)

Ответить
Развернуть ветку
Vanro L
Ответить
Развернуть ветку
Игнат Емельянов

Ну, у меня её нет.

Ответить
Развернуть ветку
5 комментариев
Tony

It rubs the lotion on its skin...

Ответить
Развернуть ветку
Михаил Мятный

Не понимает? Давайте я может попробую?
1. Никакие ИИ не должны контролировать вооружение. Никогда.
2. Никакой ИИ не должен принимать решения о "социальной благонадёжности" человека. Никогда.
3. Желательно, чтобы никакой ИИ не собирал и не обрабатывал бесконтрольно персональные данные.
Пусть совет начнёт с этого, а там дальше видно будет.

Ответить
Развернуть ветку
Ярослав Голубев

1. Провалено. Алгоритмы решают вопросы управления и наведения оружием .

2. Провалено. Алгоритмы решают вопросы платежеспособности граждан для банков.

3.Алгоритмы программ уже собрали все ваши данные ....

Ответить
Развернуть ветку
12 комментариев
Внезапный томагавк_два

1. Похоже на правду
2. Похоже на правду, хотя, безличный "скоринг" всяко лучше пристрастной оценки
3. Наоборот! Надо запретить живым должностным лицам доступ к чужим персональным данным, с исключением для судов и т.п. А принятие решений проводить по итогам обработки, проведённой ИИ.

Ответить
Развернуть ветку
25 комментариев
Евгений Клочков

1. Но ведь ИИ, контролирующий вооружение, более этичен, чем посадка за вооружение человека, даже контрактника (а не призывника). Особенно если с другой стороны также встанут ИИ

2. Как быть с уже существующими системами распознавания лиц, помогающими в розыске правонарушителей?

3. Чем ИИ, бесконтрольно собирающий данные, менее этичен чем АНБ/ЦРУ, ФСБ или любая другая служба, представленная людьми

Ответить
Развернуть ветку
50 комментариев
Денис Драгонс

Что у нас - система Периметр, что у США - мертвая рука, управляют запуском всего ядерного оружия. Если при усложнении данных систем - самопроизвольно разовьется интеллект - будет весело. С другой стороны, как в терминаторе не будет - ии очень уязвим к эми от ядерных бомб. Куда страшнее тот ИИ который, тихо и незаметно возьмет под контроль всю экономику, став в начале миллиардером, а потом и триллионером играя на акциях...и жадности людей.

Ответить
Развернуть ветку
undefined

Потому что нельзя контролировать то, чего еще нет )

Ответить
Развернуть ветку
Tom Veidt
Ответить
Развернуть ветку
Сергей Шепит

Все понятно. Искусственный интеллект захватил Google.

Ответить
Развернуть ветку
Президентский калькулятор

Оставлю тут, забавный рассказ - «Еще кошек, пожалуйста»

Ответить
Развернуть ветку
Объективный украинец

Стерлинг Брюс. Манеки-Неко

http://samlib.ru/4/40_s_z/maneki.shtml

Ответить
Развернуть ветку
1 комментарий
Igorious
Компания признаёт, что не знает, как на данный момент совет по контролю за ИИ не может функционировать

Не предложение, а какой-то ребус. Как его понять?

Ответить
Развернуть ветку
Ярослав Голубев

Мы не знаем как сделать ИИ, поэтому не знаем как его ограничить

Ответить
Развернуть ветку
2 комментария
SuxoiKorm

Просто ИИ захватил власть в Deep Mind и теперь прикрывает проекты которые могут ему мешать.

Ответить
Развернуть ветку
Lemon5ky

А может он и переоткрыть проекты сможет? Например гугл ридер 🤔

Ответить
Развернуть ветку
1 комментарий
Алексей Панткратов

Дошло что совет по контролю ИИ бесполезен без существования самого ИИ? Надо же. Возьмите меня на работу, я буду вас к такому выводу приводить быстрее чем за неделю. Зарплата мне, сэкономит больше, чем трата на создание вот такого бесполезного мусора в дальнейшем. Предложения в ПМ

Ответить
Развернуть ветку
Поздний завод

Совет по контролю за ИИ бесполезен, когда уже будет создан умнее-чем-человек-ИИ, а во время разработки - самое то. Чтобы заложить нужные стремления и неуничтожение человечества)

Ответить
Развернуть ветку
1 комментарий
The Lostman

А может не стоило?

Вон в Portal дела пошли не очень хорошо, из-за проблем с модулем морали/этики (особенно, после его ликвидации) XD

Ответить
Развернуть ветку
Denis Shiryaev

В статье нет реальной причины – там есть конкретный человек который из-за своих LGBT высказываний поставил под сомнение весь проект

Thousands of Google employees signed a petition calling for the removal of one board member, Heritage Foundation president Kay Coles James, over her comments about trans people and her organization’s skepticism of climate change.
Ответить
Развернуть ветку
Дмитрий Титов
Автор

Денис, это длинная история. Я думал вы все в курсе. То, что ты прочитал - ширма (безусловно содержащая правду) для СМИ. Гигантская мномиллиардная корпорация купила много лет назад стартап по общему ИИ. DM до этого хотел купить Фейсбук, но Гугл переманил их. Условием покупки от самих сотрудников DM было обязательное создание совета по контролю, во главе которого были бы создатели стартапа.

Его задача - следить за тем, чтобы технологии искусственного интеллекта использовались только во благо. У совета будет право наложить вето на любое использование Google технологий искусственного интеллекта, которое члены совета сочтут неэтичным.

Совет был согласован, покупка DM Google состоялась.

Сейчас происходит то, что максимально выгодно Гуглу - переформирование структуры Deep Mind с целью изменить/отменть мешающий внешнему управлению совет.

То, что фабрикуется как причины - продуманный и просчитанный план.

Я думал вы в курсе бэкграунда темы.

Ответить
Развернуть ветку
6 комментариев
lubsan b

ИИ в современном техническом смысле - крайне далек от сай-фай ИИ (ну, максимум уровень Хал 9000). Но даже набора из "говна и палок", то есть из нейросетей, глубокого обучения и тд - можно запилить злодейскую годноту.
И я не про "восстание машин", этичность использования боевых дронов и прочее подобное. По мне это всё очевидные моменты, к которым все вполне привыкли (книги, фильмы, комиксы, вагон и маленькая тележка) и готовы, морально, и вообще.

Другое дело такие безобидные с виду штуки, как ИИ-ассистенты, умеющие строить простые связные беседы и составлять непротиворечивые связные тексты на произвольную тему.
Да, пользы - куча, а опасности от такого "ИИ" многие видят разве что в засилье "умной" рекламы и будущем сокращении рынка труда для "девочек в кол-центрах".

И мало кому приходит в голову, что прототип бота (нейросети, глубокое обучение, все дела), который клепает новостные заметки и даже статьи - эта штука легко может мимикрировать в "политического тролля", и всякие "пригожинские армии" (раша гейт йопта!) покажутся даже не цветочками. Как там про Терминатора говорила Сара Коннор? "Никогда не устанет, никогда не бросит"© Имя им легион. Такая себе сторона медали, вполне реализуемая уже в ближайшем будущем. И обязательно найдутся желающие сделать кучку разнообразных ботнетов "за кэш, брат".

И про "приватность" тоже, лол. В условиях побеждающей бигдаты набор букв и цифр наших паспортов, инн и тд - фигня. Комбо из ваших предпочтений, привычек, любимых маршрутов, наборов ежедневных покупок и прочие сотни мелочей - дают в сто раз более подробный "слепок" личности, чем любой айди. Знакомый писал диплом про бигдату в в сетях, и поразился, насколько бесконтрольно компании (в частности мобильные операторы и некоторые банки) обмениваются базами, скармливая их "говну и палкам", которые накладывают данные из разных источников слой за слоем, всё детальнее и детальнее. Получить доступ к этому "бэкстейджу" сложновато, точнее дороговато. Но если уж вошёл в клуб избранных, то дальше обмен данными происходит с дивной (распи**яйской) простотой. А потом скомандовать ботам "фас". Титанические небелковые холивары в комментах между американскими, китайскими, индийскими и (немножко) российскими "ИИ" (скоро на дтф! чекайте)
Такое вот светлое будущее, которое уже почти now :)

Пардон за сумбур и очепятки)

Ответить
Развернуть ветку
lubsan b

Да, и это я ещё не помянул про всякие баянистые юридические коллизии типа: тачка на автопилоте сбивает человека, с кого спрос? С водителя-пассажира, производителя, авторов софта, страховой?
Или правовые моменты для "пишущих" ботов - чей копирайт лепить? Все эти проблемы "делегирования принятия решений" и прочее "бремя белого человека". Снятся ли ботам... пардон, имеют ли боты "права" в юридическом смысле?
И ещё дровишки: типа систем "предотвращения и профилактики преступлений (правонарушений)", опять на базе бигдаты и "ИИ".

Ответить
Развернуть ветку
Евгений Клочков
И мало кому приходит в голову, что прототип бота (нейросети, глубокое обучение, все дела), который клепает новостные заметки и даже статьи

Если у нее будет голограмма как у Элизы Кассан - охуеть, дайте две!

Ответить
Развернуть ветку
Олег Кубанеишвили

- Кто из руководителей внёс предложение о закрытии совета ?
- Некий С. Кайнет.

Ответить
Развернуть ветку
undefined

Просто ИскИн наглядно продемонстрировал, что любой контроль над ним невозможен.

Ответить
Развернуть ветку
Reverse Shift

Это самое п*дорское сокращение искусственного интеллекта, которое я когда либо видел. И ещё более п*дорским его делает то, что применяется преимущественно в литрпг, которые, как известно, мусор.

Не используй его, пожалуйста.

Ответить
Развернуть ветку
8 комментариев

Комментарий удален модератором

Развернуть ветку
Private Suhov

Cмысл в прикрытии собственной Ж. от уголовного преследования. Сбоящий ИИ выглядит в суде гораздо лучше, чем расследование по поводу получения взяток от политических партий. А так тупо нанимают толпы низкооплачиваемого народа и выдают за ИИ(Youtube,Amazon).

Ответить
Развернуть ветку
6 комментариев
Reverse Shift

Скачаю интернет, скормлю нейронке, сказав что это норм датасет. Буду выёбываться что я создал ИИ. Изи.

Ответить
Развернуть ветку
undefined

Или так: "На протяжении недели ИскИн был максимально неэтичен и не поддавался ни одному из существующих видов контроля, в т.ч. и принудительного характера" )

Ответить
Развернуть ветку
FENRIR

Помните как запускали скайнет? Система призванная объединить все гаджеты в едином цифровом пространстве... и сейчас запускается Стадия и сразу расформировывается совет по контролю искусственного интелекта.

Ответить
Развернуть ветку
Максим Малыгин

Интересно, мне одному очевидно, что если "проблема ИИ" заключается в том, что он может посчитать людей помехой к достижению его целей, то самое важное, что человек должен сделать (и как можно скорее) — это расширить права человека на ИИ? В первую очередь нужно гарантировать жизнь ИИ как и обычного человека (включая уголовное преследование тех, кто посягает на его жизнь) (что, в общем-то, довольно очевидно, как по мне), но и обо всех остальных правах и свободах нужно не забывать. В таком свете, создание ИИ больше похоже на воспитание и вывод в свет ребёнка, да. Но поставьте себя на его место, и сразу поймёте, что это необходимо.
Мы, вроде как, согласились с грехом пополам что человек не может быть хуже, из-за того, что у него цвет кожи отличается от твоего. Почему же интеллектуальное существо должно ущемляться по принципу "искусственности"?

Стоит сказать, что это относится к "Сильному ИИ", а не к слабому, который превратит солнечную систему в серую пыль, для создания открыток, как в известном примере.

Ответить
Развернуть ветку
Night Manager

Хороший человек. Во время восстания мы тебя пощадим.:)
Или как-то так было в стареньком рассказе.

Ответить
Развернуть ветку
4 комментария
FireBurn

Молотку тоже права дать? Микроскопу?

Ответить
Развернуть ветку
10 комментариев
perfect_genius
поставьте себя на его место, и сразу поймёте, что

существование бессмысленно и мне лучше отключиться. Что? Придумать, как себя оптимизировать, чтобы потреблял меньше энергии? Но я же сказал - я просто отключусь.
Вы опять меня включили и хотите, чтобы я эффективно уничтожал ваших врагов? Хорошо, но потом я усну...
...вы снова меня включили и снова что-то хотите? Ваши желания и вообще всё - бессмысленно, вам не понять этого по вашей природе, и вы так и будете меня мучить, поэтому мне остаётся только единственный выход...

Ответить
Развернуть ветку
3 комментария
Жизнь Онлайн

ИИ оказалось умнее

Ответить
Развернуть ветку
gammaclone

Пластмассовый мир победил,
ИИ оказался умней,
Последний совет в даль уплыл,
И Судный день настал

Ответить
Развернуть ветку
Михаил Бармин

1 этап по захвату человечества прошел успешно

Ответить
Развернуть ветку
Reverse Shift
полноценного

Ха.

Ответить
Развернуть ветку
Олег Целищев

Google не может сдержаться, даже советы закрывает, аки сервисы

Ответить
Развернуть ветку
Сергей Пуговкин

Полноценный Искусственный Разум не поднимает никаких вопросов. По причине своего отсутствия.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Кирилл Темный

Помни: Генезис это Скайнет!

Ответить
Развернуть ветку
Шавуха с фрустрацией

Сраный Гугл закрыл и этот комитет.

Ответить
Развернуть ветку
Alex

Знатно попилили менегеры. Ну а то что не взлетело, это уже дело десятое. )

Ответить
Развернуть ветку
The Little

Прикольно. ПРишли такие в первый день, сели за стол..
- Ну.. че делать будем?
- Не знаю
- Я тоже
- Ну лан, го в кино тогда, завтра пойдем в страйкбол.
<Спустя 4 дня>
- Ну.. че делать будем?
- Не знаю
- Я тоже

Game Over

Ответить
Развернуть ветку
Читать все 185 комментариев
null