Ну с одной стороны очевидно просто нагнетание ради заголовка, а с другой уже были нкоторые реалистичные инциденты с нейронками типо той где военные эксперементировали с ии, и обучили ее на поражение целей так хорошо, что она в симуляциях убивала оператора из за угрозы получить приказ отмены, но тут как бы просто инженеры недосмотрели и стоило обучать на выполнение приказов, а не поражение цели. Тут я скорее не верю потому что о1 обучена на ответы к входящим вопросам, и она просто не в состояний сама начать размышлять сама по себе без входящих запросов, хотя хрен конечно знает что там происходит в лабораториях за закрытыми дверьми
Когда любопытный народ начал про тот случай с вояками подробности выяснять то там много интересного вылезло. И не ИИ это окалось, а просто система на весовых коэфициентах. И симуляции очень уж условные были. На уровне типа если мы дадим за вражескую цель 20 баллов, а за дружественную -10 баллов то мы пострадать можем. И вообще большая часть эксперимента - теоретические изыскания были. В общем там опять журналистов учёные отшпилили.
Ну с одной стороны очевидно просто нагнетание ради заголовка, а с другой уже были нкоторые реалистичные инциденты с нейронками типо той где военные эксперементировали с ии, и обучили ее на поражение целей так хорошо, что она в симуляциях убивала оператора из за угрозы получить приказ отмены, но тут как бы просто инженеры недосмотрели и стоило обучать на выполнение приказов, а не поражение цели.
Тут я скорее не верю потому что о1 обучена на ответы к входящим вопросам, и она просто не в состояний сама начать размышлять сама по себе без входящих запросов, хотя хрен конечно знает что там происходит в лабораториях за закрытыми дверьми
Когда любопытный народ начал про тот случай с вояками подробности выяснять то там много интересного вылезло. И не ИИ это окалось, а просто система на весовых коэфициентах. И симуляции очень уж условные были. На уровне типа если мы дадим за вражескую цель 20 баллов, а за дружественную -10 баллов то мы пострадать можем. И вообще большая часть эксперимента - теоретические изыскания были. В общем там опять журналистов учёные отшпилили.