Mikhail Geyzer

Три закона робототехники

1.Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2.Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

0
49 комментариев
Написать комментарий...
Bill Bill

А четвертый закон?

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

озвучь)

Ответить
Развернуть ветку
Bill Bill
Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

Я уже не помню в какой книге это было. Но суть ситуации заключалась в том, что если робот сейчас первый закон не нарушит, там цивилизация в жопе окажется.

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

но это законам не противоречит)

Ответить
Развернуть ветку
Bill Bill

Ну почему, он по сути там то ли убил кого-то, то ли поработил ментально. Короче напрямую нарушил первые три закона. В общем типичная моральная диллема, как и у людей.

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

но это не приемлимая модель поведения робота)

Ответить
Развернуть ветку
Bill Bill

Я так понял в том и суть того произведения. Что создать истинный ИИ в понимании автора невозможно, опираясь на законы формальной логики.

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

примерно так, но)
при создании ии автор и так и так вкладывает часть себя в него
по законам логики - 3 закона)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

та там хоть в фильме Я робот) с Уиллом Смитом)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

ну у Айзека часто в книгах такое есть)

Ответить
Развернуть ветку
Похожий паркур

Комментарий недоступен

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

ммм, на какой?)я давно читал уже всех наверно и не припомню)

Ответить
Развернуть ветку
Похожий паркур

Комментарий недоступен

Ответить
Развернуть ветку
Mikhail Geyzer
Автор
Ответить
Развернуть ветку
Mario Kepler

ну во первых роботы бывают разные, какой-нибудь Робот-Андроид ИИ уже может навредить человеку или сделать что-нибудь еще

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

Обсудим) это 3 закона роботов от Азимова)контроль их развития

Ответить
Развернуть ветку
Mr. Piccolo

Опиши их так, что бы ИИ их понял)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

читай выше)

Ответить
Развернуть ветку
Mr. Piccolo

Кажется ты забыл, что машина не делает то, то что её просят. Только то, о чём ей пишут. Программным кодом

Ответить
Развернуть ветку
вчерашний энэргетик

Это не одно и то же ?

Ответить
Развернуть ветку
Mr. Piccolo

Как ни странно, нет. Не забывай, что ИИ делает всё буквально, без домыслов и лишних трактовок

Ответить
Развернуть ветку
вчерашний энэргетик

Это скорее плюс, чем минус. Нет ?

Ответить
Развернуть ветку
Mr. Piccolo

Если ты не очень внимательный, и не умеешь в точное техзадание, то минус

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

странно)никогда не просил машины делать что они хотят...

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

3 закона буквально)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

проблематика трёх законов) люди могут могут менять их

Ответить
Развернуть ветку
Mr. Piccolo

Людям бы их сформулировать понятно для машины, для начала

Ответить
Развернуть ветку
Bill Bill

О чем вообще разговор? Это НФ, а не суперкомпьютер, величиной с небоскреб и формальной логикой, которому в реестр нужно вбивать команды на ссях.

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

разговор о том хватает ли роботу 3 законов, а человеку нужно больше)

Ответить
Развернуть ветку
Bill Bill

По-моему, тут доеб от человека, который либо не читал, либо намеренно душнит.

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

вы ещё подеритесь

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

сформулировано)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

собственно о чём Айзек и печатал

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

у машин нет воображения)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

четвёртый) проблематика ии и робатов - у них нет понимания что такое хорошо или плохо, нет моральных ценностей

Ответить
Развернуть ветку
вчерашний энэргетик

Моральная ценность это субъективное понятие

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

да)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

но ты же знаешь что такое мораль?

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

и не будешь делать аморальных робатов?

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

убить младенца чтобы спасти человеков или спасти его)

Ответить
Развернуть ветку
Похожий паркур

Комментарий недоступен

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

парадокс да) что в принципе и не противоречит трём законам - не выполняешь - ломаешься)

Ответить
Развернуть ветку
Bill Bill

https://ru.wikipedia.org/wiki/%D0%A0%D0%BE%D0%B1%D0%BE%D1%82%D1%8B_%D0%B8_%D0%98%D0%BC%D0%BF%D0%B5%D1%80%D0%B8%D1%8F
Вроде бы это. У меня идиотская ситуация, я кроме этого из цикла ничего не читал.

Ответить
Развернуть ветку
Похожий паркур

Комментарий недоступен

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

ладненько)ещё не пятница)
А́йзек Ази́мов (англ. Isaac Asimov, имя при рождении Исаа́к Ю́дович Ази́мов; между 4 октября 1919 года и 2 января 1920 года, Петровичи[5], Смоленская губерния — 6 апреля 1992 года, Манхэттен[6], Нью-Йорк, США) — американский писатель-фантаст, популяризатор науки, биохимик. Автор около 500 произведений, в основном художественных (прежде всего в жанре научной фантастики, но также и в других жанрах: фэнтези, детектив, юмор) и научно-популярных (в самых разных областях — от астрономии и генетики до истории и литературоведения). Многократный лауреат премий «Хьюго» и «Небьюла». Некоторые термины из его произведений — robotics (роботехника, роботика), positronic (позитронный), psychohistory (психоистория, наука о поведении больших групп людей) — прочно вошли в английский и другие языки. В англо-американской литературной традиции Айзека Азимова вместе с Артуром Кларком и Робертом Хайнлайном относят к «Большой тройке» писателей-фантастов[7][8].

В одном из обращений к читателям Айзек Азимов следующим образом сформулировал гуманистическую роль научной фантастики в современном мире: «История достигла точки, когда человечеству больше не разрешается враждовать. Люди на Земле должны дружить. Я всегда старался это подчеркнуть в своих произведениях… Не думаю, что можно заставить всех людей любить друг друга, но я желал бы уничтожить ненависть между людьми. И я совершенно серьёзно полагаю, что научная фантастика есть одно из звеньев, которые помогают соединить человечество. Проблемы, которые мы поднимаем в фантастике, становятся насущными проблемами всего человечества… Писатель-фантаст, читатель фантастики, сама фантастика служат человечеству»[9].

Ответить
Развернуть ветку
TasTake

Но что насчёт военных роботов, или роботов которые защищают своих хозяев? (в случае если пришлось убить другого человека) Значит робот может причинить вред человеку и первый закон не работает?

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

это не противоречит 3 законам
это робот отдельного человека или группы людей

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

выше писал про программный код)

Ответить
Развернуть ветку
Mikhail Geyzer
Автор

прикроем до пятницы) а то ещё доберёмся до Кларка и Хайлана)

Ответить
Развернуть ветку
Читать все 49 комментариев
null