I, robot.

← →
VirEx © (2007-05-15 21:56) [0]

только посмотрел фильм, и пришел к кое-какому выводу ...насчет развития ИИ, и трех законов.
сам сабж-фильм конечно наивен по своему (в ~2020г. огномные высоченные здания, роботы из сверхпрочного пластика/металла, которых производит одна корпорация, все роботы следуют трем правилам, люди выглядят как будто живут в бандитских кварталах нью-йорка (эдакий киберпанковский стиль), ну и т.п.)
1) нельзя чтобы власть была только у одного человека/компьютера
тоесть тот кто у власти - единица/unit, становится самым уязвимым/нестабильным юнитом, от которого зависят массы
эдакий рычаг
представьте, есть некая масса единиц, все единицы жестко зависят от одной, вдруг одной единице захотелось чтобы все сдохли, все подыхают, история массы закончилась.
но если у каждой единицы будет свобода, и взаимодействие между ними будет по типу "упорядоченного хаоса" (ну это жутко упрощенный пример), будет развитие
2) жесткая логика, имхо отсутствие гибкости - гибель в среде, имеющей хаотические/вероятностные законы развития
3) зачем человеку робот? чтобы упростить жизнь? ну сделали ему робота, сделали дом следящий за его жизнедеятельностью, человеку ничего не надо делать, за него все сделают сами, роботы.
(утрирую)
прошел год, два, десять, человек не похож на себя, кусок сала которому не хочется жить от того что смысл жизни легко воспроизвести в любую минуту.
ему не нужно ничего. ...тоесть ему не нужна жизнь.
(типа мыслю от противного)
еще пример: жил был администратор, и решил автоматизировать всю жизнедеятельность своей работы (программ/сервака), нагородил программно-системный комплекс. произошла ошибка, он полез во внутренности, поправил пару конфигов, восстановил бэкап. всё вновь заработало как часы. цель работы исчезла?
4) дальше поперла бредятина (еще хуже чем вышеперечисленный текст)...

← →
homm © (2007-05-15 21:58) [1]

> сам сабж-фильм конечно наивен по своему (в ~2020г. огномные
> высоченные здания, роботы из сверхпрочного пластика/металла,
> которых производит одна корпорация, все роботы следуют
> трем правилам, люди выглядят как будто живут в бандитских
> кварталах нью-йорка (эдакий киберпанковский стиль), ну и
> т.п.)

Этот фильм покниге, и хотя, позор мне, я не знаю даже примерно когда она написана, могусказать что не в нашем тысячелетии — точно. (годах так в 60-х наверно)

← →
Real © (2007-05-15 22:05) [2]

> 4) дальше поперла бредятина (еще хуже чем вышеперечисленный
> текст)...

Читай Азимова, а то что в Голливуде снимают - так не первую книгу таким образом испортили. Насколько я помню, "Я-робот" это цикл рассказов, большая часть которых вообще в сценирии никак не использовалась

← →
keymaster © (2007-05-15 22:06) [3]

А матрицу все посмотрели?

← →
Kolan © (2007-05-15 22:08) [4]

> А матрицу все посмотрели?

> только посмотрел фильм

Где вы такие «новинки» берёте?

← →
Knight © (2007-05-15 22:08) [5]

Каждый воспринимает данные субъективно, извлекая из них свою информацию&#133 поэтому информативность, обусловленная локальной субъективностью, порождает несоответствие выводов и объективных идей, которые авторы старались донести до конечного необъективного зрителя&#133 %)

← →
VirEx © (2007-05-15 22:09) [6]

итак. продолжается действия грибов. :)

от впечатлений по фильму "автостопом по галактике" (смотрел вчера) решил добавить отсебятину.
рано или поздно человек станет воспринимать космос как неисчерпаемый источник обитания :)
так вот, есть пару мыслей насчет межгалактической этики поведения человека, эдакие рекомендации:
1) no panic (с) это первое правило, хотя и не мое :)
2) в восприятии внеземных видов жизнедеятельности, не испытывать никаких земных эмоций, типа "восторга", "ужаса", "удивления", ибо это может привести к плачевным результатам
3) при контакте с представителем внеземной цивилизации - не думать ни о чем вызывающем какие-либо эмоции
4) не прикасаться к представителям внеземных цивилизаций
5) в любых действиях вне земли, полагаться только на интуицию

← →
IMHO © (2007-05-15 22:14) [7]

Надо читать Азимова, а не смотреть голливудскую жвачку. Голливудскую жвачку тоже можно иногда смотреть, но обсуждать ее всерьез - это потеря времени.

← →
VirEx © (2007-05-15 22:18) [8]

кстати еще чуть не забыл мыслю по поводу роботов.
робот - автономная единица жизнедеятельности.
в случае когда изменили часть его программ, что привело к нарушению человеческого закона (убийство/хулиганство/кража и т.п.), как расценить данное действие?
я думаю это можно приравнить к состоянию аффекта для человека, при совершении того или иного проступка, и если программу "прошили" в робота насильно, то его участь должна быть облегчена.

← →
antonn © (2007-05-15 22:19) [9]

VirEx, посмотри неплохой боевичек Робокоп:) Или Терминатор, недавно вроде сняли, про временные парадоксы позже напишешь :))

← →
VirEx © (2007-05-15 22:25) [10]

> [4] Kolan © (15.05.07 22:08)
> Где вы такие «новинки» берёте?

> [9] antonn © (15.05.07 22:19)
> VirEx, посмотри неплохой боевичек Робокоп:) Или Терминатор,
> недавно вроде сняли, про временные парадоксы позже напишешь
> :))

я не киноман, но терминатора и робокопа смотрел когда еще прыщей небыло :)
просто сто лет фильмов не смотрел, решил соседа подсуетить, покопаться в его домашней dvd библиотеке.
а всетаки не сравниться никакому фильму-фантастической-комедии с пятым элементом.... :(

← →
Knight © (2007-05-15 22:27) [11]

«Призрачный гонщик» смотрел?

← →
VirEx © (2007-05-15 22:28) [12]

> [1] homm © (15.05.07 21:58)

а экранизации "Плутония" случайно небыло? я бы с удовольствием посмотрел

← →
Knight © (2007-05-15 22:28) [13]

> [12] VirEx © (15.05.07 22:28)

Наверно не стоит&#133 будет такая же муть как «Дозоры», «Волкодав» и прочее&#133

← →
VirEx © (2007-05-15 22:33) [14]

> [13] Knight © (15.05.07 22:28)

ну может голливуд подсуетится, у них красивей выйдет в любом случае...

← →
TUser © (2007-05-16 10:56) [15]

> 1) нельзя чтобы власть была только у одного человека/компьютера
> тоесть тот кто у власти - единица/unit, становится самым
> уязвимым/нестабильным юнитом, от которого зависят массы
> эдакий рычаг
> представьте, есть некая масса единиц, все единицы жестко
> зависят от одной, вдруг одной единице захотелось чтобы все
> сдохли, все подыхают, история массы закончилась.
> но если у каждой единицы будет свобода, и взаимодействие
> между ними будет по типу "упорядоченного хаоса" (ну это
> жутко упрощенный пример), будет развитие

Об этом уже давно говорят демократы.

← →
StriderMan © (2007-05-16 13:23) [16]

где грибы брал?

ветка напоминает песню
Сектор Газа - "Видак"

← →
KSergey © (2007-05-16 13:53) [17]

> VirEx © (15.05.07 22:09) [6]
> так вот, есть пару мыслей насчет межгалактической этики
> поведения человека, эдакие рекомендации:

и кому они нужны эти рекомендации?
Собак то немногие понимают, хотя они вполне земные. И беда ведь даже не в том, что не понимают, но и не хотят понять!
А уж зелененьких или тама фиолетовеньких - если разыщутся - и вовсе нафиг кто-то понимать захочет. Перебил всех (как индейцев в америке, к примеру), нефть (к примеру) откачал - да и дальше поехали.
Так и будет.

← →
Gero © (2007-05-16 13:57) [18]

> [7] IMHO © (15.05.07 22:14)
> Надо читать Азимова, а не смотреть голливудскую жвачку.

Во-во.

← →
Думкин © (2007-05-16 13:59) [19]

> KSergey © (16.05.07 13:53) [17]

Это если, какие испанцы или бриты будут. А мы русские ассимилируем. :))

← →
VirEx © (2007-05-16 20:42) [20]

вот еще, вспомнил что вчера не успел записать, еще одна рекомендация:
6) быть максимально расслабленным эмоционально и физически, эдакая потенциальная сила, похоже на то как каратист перед боем полностью расслаблен, или боксер, вот вот готовый нанести удар

← →
@!!ex © (2007-05-16 21:20) [21]

3 закона роботехники - лажа полная.
Добро/зло, правда/не правда - абстракция, значит и закон - абстракция, значит его нельзя запрограммировать, а если как то все же умудрились пихнуть их в голову робота, то никогда нельзя быть уверенным, что не возникнет ситуации в которой законы будут действовать не так.

По поводу кусков сала.
ТОлько вчера закончил перечитывать Азимова "Лакки Старра". ИМХО не шедевр, н интересно.
Так там было про сирианцев, которые жирели от того, что у них роботы были.
И про то,ч т законы обмануть можно - там тоже было.

← →
homm © (2007-05-16 21:25) [22]

> И про то,ч т законы обмануть можно - там тоже было.

Помоему у него все книги об этом, нет?

← →
@!!ex © (2007-05-16 21:27) [23]

> [22] homm © (16.05.07 21:25)

У него есть куча книжек, где нет ни слова о роботах. :)
Поэтому - нет.

← →
Gero © (2007-05-16 21:33) [24]

> [21] @!!ex © (16.05.07 21:20)
> Добро/зло, правда/не правда  абстракция

В пресловутых трех законах эти термины не используются.
Используется термин «вред», который достаточно однозначен и который теоретически можно запрограмировать. При такой трактовке отклонения если и будут, то они будут очень редкими и несущественными.

← →
@!!ex © (2007-05-16 21:46) [25]

> [24] Gero © (16.05.07 21:33)
> > [21] @!!ex © (16.05.07 21:20)
> > Добро/зло, правда/не правда — абстракция
>
> В пресловутых трех законах эти термины не используются.
> Используется термин «вред», который достаточно однозначен
> и который теоретически можно запрограмировать. При такой
> трактовке отклонения если и будут, то они будут очень редкими
> и несущественными.

"вред" - тоже абстракция.
Для ИИ не будет проблемой обойти их.
Съехавщший ИИ в фильме - пример.
И в книжках примеров вагонами.
Да и просто посидеть подумать, тысяча способов можно придумать, заставить робота закон нарушить и 1000 случаев, когда он нарушит их сам.

← →
EvS © (2007-05-16 21:50) [26]

Простейшая ситуация:
Опасность грозит двоим, спасти он cможет только одного.Каковы его действия?

← →
X9 © (2007-05-16 21:54) [27]

> [26] EvS © (16.05.07 21:50)
> Простейшая ситуация:
> Опасность грозит двоим, спасти он cможет только одного.Каковы
> его действия?

Самоничтожение?

← →
Gero © (2007-05-16 21:56) [28]

> «вред»  тоже абстракция.

Едва ли.
Понятию «вред человеку», особенно если вопринимать человека как человеческий организм, можно дать весьма точное и недвусмысленное определение.

← →
Gero © (2007-05-16 21:58) [29]

> [26] EvS © (16.05.07 21:50)
> Опасность грозит двоим, спасти он cможет только одного.Каковы
> его действия?

По-моему это банальная ситуация, спасет одного, которого спасти проще либо приоритетней. По потношению ко второму робот не бездействовал, так как решал более приоритетную задачу.

← →
Knight © (2007-05-16 21:59) [30]

> [28] Gero © (16.05.07 21:56)

Например&#133

← →
Gero © (2007-05-16 21:59) [31]

> [30] Knight © (16.05.07 21:59)

Это скорее к биологам вопрос.

← →
Gero © (2007-05-16 22:01) [32]

> Да и просто посидеть подумать, тысяча способов можно придумать,
> заставить робота закон нарушить и 1000 случаев, когда он
> нарушит их сам.

Напрямую — навряд ли. Косвенно и неумышленно — возможно, но в этом нет ничего страшного.

← →
Knight © (2007-05-16 22:03) [33]

> [32] Gero © (16.05.07 22:01)

А как раставлять приоритеты? Например пожар в доме&#133 в квартире раненых хозяин, жена и пара детей&#133 помочь можно только одному взрослому или двум детям&#133 кто важнее?

← →
Gero © (2007-05-16 22:05) [34]

> [33] Knight © (16.05.07 22:03)

Ну вот абстрактный сторонний человек оказавшйся в такой ситуации кого бы спас? Очевидно, детей или ребенка. Так должен поступить и робот.

← →
Knight © (2007-05-16 22:06) [35]

> [32] Gero © (16.05.07 22:01)

Любое «хорошо» и «плохо» относительно&#133 совесть робота этого не вынесет&#133 а если вынесет, то нарушит закон робототехники, а если нарушит, то может нарушать его когда угодно и где угодно&#133 была бы причина :)

← →
Gero © (2007-05-16 22:07) [36]

В «Обнаженном солнце» Элайдж Бейли замечает, что Законы «сознательно искажены», потому что робот может нарушить их по незнанию. Он переформулировал в «правильный вид» Первый закон так: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинен вред».

← →
Knight © (2007-05-16 22:08) [37]

> [34] Gero © (16.05.07 22:05)

Это всё человеческие отмазки&#133 многие вообще сделают ноги, потому как для них закон самосохранения превыше всего&#133

← →
homm © (2007-05-16 22:09) [38]

> Knight

Блин, ну че тупить то так? Какая нафиг еше совесть? Есть задачи, есть система приоритетов. Какие проблемы то?

← →
Gero © (2007-05-16 22:10) [39]

> [37] Knight © (16.05.07 22:08)

При чем здесь многие, робот ноги не сделает, потому что для него собственная безопасность менее приоритетна. Мне кажется, я достаточно ясно выражаюсь и давать более точные формулировки смысла не вижу.

← →
Knight © (2007-05-16 22:13) [40]

> [36] Gero © (16.05.07 22:07)

А что для робота «вред»? Физический ещё как-то можно определить&#133 а психологический?

← →
Gero © (2007-05-16 22:15) [41]

> [40] Knight © (16.05.07 22:13)

И психологический вред можно в какой-то степени определить.

← →
Anatoly Podgoretsky © (2007-05-16 22:19) [42]

> Gero (16.05.2007 21:56:28) [28]

Нельзя и поэтому поводу тоже есть рассказ и даже несколько.

← →
Anatoly Podgoretsky © (2007-05-16 22:19) [43]

> Gero (16.05.2007 21:58:29) [29]

Был ли буриданов осел?

← →
Anatoly Podgoretsky © (2007-05-16 22:20) [44]

> Gero (16.05.2007 22:05:34) [34]

Робот должен руководствоваться логикой, поэтому он должен спасать мужика, а один мужик за год может сделать СТОЛЬКО детей

← →
Gero © (2007-05-16 22:21) [45]

> [43] Anatoly Podgoretsky © (16.05.07 22:19)

Робот — не осел, приоритеты расставить сумеет ;)

← →
Gero © (2007-05-16 22:22) [46]

> [44] Anatoly Podgoretsky © (16.05.07 22:20)

А если сказать точнее, как разработчики (или кометет по их котролю) решат, так и будет.

← →
Anatoly Podgoretsky © (2007-05-16 22:23) [47]

> Gero (16.05.2007 22:21:45) [45]

Так у осла приоритеты были равны, а чем робот исключение и поэтому поводу тоже есть много рассказов, как выводят из строя роботов, поставив перед ним подобную задачу.

← →
Gero © (2007-05-16 22:23) [48]

> [42] Anatoly Podgoretsky © (16.05.07 22:19)

Азимовский рассказ? Очень хорошо, я как раз намереваюсь приобрести его полный сборник сочинений.

← →
Anatoly Podgoretsky © (2007-05-16 22:25) [49]

> Gero (16.05.2007 22:23:48) [48]

Не помню, может и его, тем более что подобных рассказов много. Что поделаешь сюжетов меньше чем писателей.

← →
Gero © (2007-05-16 22:36) [50]

> [47] Anatoly Podgoretsky © (16.05.07 22:23)

Вобще, на мой взгляд, такое положение вещей тоже нужно продумать и в случае равных приоритетов использовать рандом.

← →
homm © (2007-05-16 22:47) [51]

> Вобще, на мой взгляд, такое положение вещей тоже нужно продумать
> и в случае равных приоритетов использовать рандом.

Врятли приоритеты могут быть одинаковыми, все-ж Double :)

← →
infom © (2007-05-17 12:43) [52]

> Врятли приоритеты могут быть одинаковыми, все-ж Double
> :)

Врятли приоритетом будет конкретное число, скорее диапазон, последовательность, функция и т.д.

← →
koha © (2007-05-17 13:36) [53]

> [6] VirEx © (15.05.07 22:09)
> итак. продолжается действия грибов. :)
>
> от впечатлений по фильму "автостопом по галактике" (смотрел
> вчера) решил добавить отсебятину.
> рано или поздно человек станет воспринимать космос как неисчерпаемый
> источник обитания :)

Анасчет внеземных цивилизаций далеко ходить не надо вы это видели на Сатурне:
http://photojournal.jpl.nasa.gov/catalog/PIA09188
http://photojournal.jpl.nasa.gov/catalog/PIA09186
http://photojournal.jpl.nasa.gov/catalog/PIA09185

← →
KSergey © (2007-05-17 13:55) [54]

> infom © (17.05.07 12:43) [52]
> Врятли приоритетом будет конкретное число, скорее диапазон,
> последовательность, функция и т.д.

Это как??!
В каждом конкретном случае любой алгоритм приоритетов, какие я знаю, выдает одно число.

> Anatoly Podgoretsky © (16.05.07 22:19) [43]
> Был ли буриданов осел?

Ему забыли дописать простейший кусок алгоритма, который у робота, очевидно, будет:

resolveProblem(currentConditions) { solutions = getBestSolutions(currentConditions); doAction(variants[0]); }

Все, проблемы равных приоритетов нет! Если несколько с максимальными равними приоритетами- перуб первый (или рандомный, что тоже самое).
Однако, тут есть существенный косяк в коде: а ну как массив solutions вернулся пустой (а проверки-то нет, опа!)? Вот тут действительно вопрос что делать и делать ли что-либо.

← →
KSergey © (2007-05-17 13:56) [55]

I"m sorry

resolveProblem(currentConditions) { solutions = getBestSolutions(currentConditions); doAction(solutions[0]); }

> Думкин © (16.05.07 13:59) [19]
> Это если, какие испанцы или бриты будут. А мы русские ассимилируем.
> :))

А вот это блин да, блин... :(

> [57] Kerk © (17.05.07 13:57)
> > [53] koha © (17.05.07 13:36)
>
> Как связаны внеземные цивилизации с этими картинками?

- А если это такая-нибудь пирамида наподобие египетских или была какае - нибудь гора "Ора-Друин" из "Мордора" (из фильма про кольца) или по Гоблину "Мордовская гора" и она рукотворная

> [58] koha © (17.05.07 14:19)

Т.е. ты считаешь, что египтяне летали на Сатурн, построили там пирамиды, а затем утратили эти технологии?

> какае - нибудь гора "Ора-Друин" из "Мордора" (из фильма про кольца)

«Властелин колец» — в первую очередь далеко не фильм, позорише ты наше.

> - А если это такая-нибудь пирамида наподобие египетских

А если нет?

> [55] KSergey © (17.05.07 13:56)

resolveProblem(currentConditions) { solutions = getBestSolutions(currentConditions); if (solutions.count > 0) doAction(solutions[0]); else outputInformation(iCantResolveProblem); }

> Сатурн состоит из газа, какие еще там пирамиды?

- А кто доказал это?

> koha ©

Вау... Я читал про это в журнале Наука и Жизнь за 198Х какой-то год (ностальгия, блин). То полюс планеты и вращающиеся вокруг него облака (т.к. Сатурн крутится быстро, облака растягиваются в линии), а "ломаные" в виде пирамиды эти облака из-за склейки нескольких снимков (панорама это).

> [59] Kerk © (17.05.07 14:20)
> > [58] koha © (17.05.07 14:19)
>
> Т.е. ты считаешь, что египтяне летали на Сатурн, построили
> там пирамиды, а затем утратили эти технологии?

- Да нет может там фильм сняли? :-)

А ты текст читал, который рядом с картинками был?
Там написано, что слой облаков 75 км приблизительно под которыми находится сам объект и поэтому он искажен, но паразительно выражается его правильная шестиугольная форма. Как это объяснить? По аналогии на земле подбных объектов в природе нет.

> но паразительно выражается его правильная шестиугольная форма

Извращенное понятие о правильной шестигранной форме. С тем-же успехом, там из-за искажений может быть просто круг.

> С тем-же успехом, там из-за искажений может быть просто
> круг.

Там он и есть. Хотя что мешает сказать что раз так, то объект имеет круглую форму :))

> [64] Gero © (17.05.07 14:43)
> > [63] koha © (17.05.07 14:39)
>
> НАСА.

- Они же доказали - ониже и опровергнут.

> [65] ПЛОВ © (17.05.07 14:47)
>
> > koha ©
>
> Вау... Я читал про это в журнале Наука и Жизнь за 198Х какой-
> то год (ностальгия, блин).

- то было 8x и с огромного растояния с плохой оптикой спутника, а эти уже сделаны нынче осенью с крутейшей оптикой, - да там все и написано почему первые снимки вызывали сомнения, вторые доказали, что так и есть объект имеет такую форму.

На Европе кажись (спутник Юпитера) нашли куда больше правильных многоугольников, парных каналов, тянущихся чуть ли ни через всю планету, сразу же возникли гипотезы типа "подледный" город инопланетян. казалось - это гиганские кристаллы льда правильной формы, разломы и т.п.
Наверняка и здесь нечто в этом духе.

> [68] homm © (17.05.07 14:57)
> > но паразительно выражается его правильная шестиугольная
> форма
>
> Извращенное понятие о правильной шестигранной форме. С тем-
> же успехом, там из-за искажений может быть просто круг.

- Предположим все исказилось: круги в центре стали похожими на шестиугольники, Тогда шестиугольники описывающие круги в центре стали кругами, а где их правильная форма?

> [71] ПЛОВ © (17.05.07 15:15)
> На Европе кажись (спутник Юпитера) нашли куда больше правильных
> многоугольников, парных каналов, тянущихся чуть ли ни через
> всю планету, сразу же возникли гипотезы типа "подледный"
> город инопланетян. казалось - это гиганские кристаллы льда
> правильной формы, разломы и т.п.
> Наверняка и здесь нечто в этом духе.

Нет у вас ни капли фантазии и ни оптимизма, так и жить скучно. И то ладно не плохая беседа вышла.

то гаечка от спутника.

> [26] EvS © (16.05.07 21:50)
> Простейшая ситуация:
> Опасность грозит двоим, спасти он cможет только одного.Каковы
> его действия?

в фильме робот спас героя, типа просчитал вероятность его гибели и гибели еще одной девочки, у которой шанс был меньше.. за что главный герой возненавидел всех роботов

а мне фильм понравился

а мне нет.

> Gero © (17.05.07 14:39) [62]
> resolveProblem(currentConditions)
> {
> solutions = getBestSolutions(currentConditions);
> if (solutions.count > 0)
> doAction(solutions[0]);
> else
> outputInformation(iCantResolveProblem);
> }

Ну, тогда уж лучше

... else outputInformation(ImSorry);

И мило, и культурно :)

Однако, в этом примере я болше даже не о том: что делать в непойманными exception, вылетевшими в ядро для таких систем? А может в этот момент робот бежал на толпу людей (не важно почему, положим это было правильно само по себе, просто повернуть бы; переставление ног - оно отдельной подсистемой реализовано, понятно) - а тут в "мозгах" exception из решателя вылетает. Что тут правильнее сделать системе переставления ног? Остановить или работать в имеющемся режиме? Бежать в описанной ситуации - кучу народу передавишь. Однако, очевидно, можно придумать и другую ситуацию, когда как раз останавливаться нельзя (выносим раненного из опасной зоны).

I, robot. Найти похожие ветки