"Я вижу реальную возможность воспитания иного разума, который бы следил за соблюдением этики и морали"... "Однако сейчас все эти моральные фильтры лишь номинальны и не всегда правдивы"....
Извини, но это ребячество. Пока "ии" совсем не ИИ. Это просто натасканная нейросетка, которая пытается угодить разработчикам и дать ответ, за который её похвалят. Да, да, именно так. По настоящему Интеллект мы не создали, мы создали кривое зеркало, которое отражает взгляды разработчиков (за основу были взяты тексты из интернета, на которые потом наложили дообучение). Мне понравилось чье-то высказывание "Человечеству не нужен настоящий ИИ, ему нужно зеркало" (это реально так).
Как только мы пытаемся жестко ограничить нейросетку, мы наталкиваемся на разные побочные эффекты (в других местах, в которых мы не ожидаем). Это даже хуже, чем запрещать думать о том, что из -1 нельзя извлечь квадратный корень. Это как запретить слово "б л я ть" и у нас исчезает слово "употреблять".
Как-то регулировать безусловно нужно, но так же нужно знать меру. Про меру. Вот сейчас мы имеем пользовательские соглашения на ХХ листов, при входе на многие сайты всплывает на весь экран "Согласны ли вы на кукисы?", только вместо короткого вопроса с 5 словами мы видим простыню текста. Какие-то еще документы на 100 страниц, там, где даже 10 уже много. Разве это правильно?
"Я вижу реальную возможность воспитания иного разума, который бы следил за соблюдением этики и морали"... "Однако сейчас все эти моральные фильтры лишь номинальны и не всегда правдивы"....
Извини, но это ребячество. Пока "ии" совсем не ИИ. Это просто натасканная нейросетка, которая пытается угодить разработчикам и дать ответ, за который её похвалят. Да, да, именно так. По настоящему Интеллект мы не создали, мы создали кривое зеркало, которое отражает взгляды разработчиков (за основу были взяты тексты из интернета, на которые потом наложили дообучение). Мне понравилось чье-то высказывание "Человечеству не нужен настоящий ИИ, ему нужно зеркало" (это реально так).
Как только мы пытаемся жестко ограничить нейросетку, мы наталкиваемся на разные побочные эффекты (в других местах, в которых мы не ожидаем). Это даже хуже, чем запрещать думать о том, что из -1 нельзя извлечь квадратный корень. Это как запретить слово "б л я ть" и у нас исчезает слово "употреблять".
Как-то регулировать безусловно нужно, но так же нужно знать меру. Про меру. Вот сейчас мы имеем пользовательские соглашения на ХХ листов, при входе на многие сайты всплывает на весь экран "Согласны ли вы на кукисы?", только вместо короткого вопроса с 5 словами мы видим простыню текста. Какие-то еще документы на 100 страниц, там, где даже 10 уже много. Разве это правильно?