А кто-нибудь в детстве мечтал быть программистом?

← →
Reindeer Moss Eater © (2007-11-15 14:29) [280]

В общем писать логи - это интеллектуально.

← →
kaif © (2007-11-15 14:34) [281]

Но как только мы отдадим им право принимать все решения за нас, то они быстро разделятся на роботов-исполнителей и роботов-вершителей и возьмутся за нас с целью усовершенствования нашей природы - делать нас счастливыми.
На самом деле в "Отроках во всленной" все точно показано.
Дело не в устройстве.
Дело в статусе.

Отдавая системе право решать за нас, мы получаем монстров.
Система не обязательно есть компьютер.
Это может быть бюрократическая структура, религиозная организация, корпорация, система инструкций, да вообще все, что угодно, что стало выше человеческой лмчности и заимело право пренебрегать принципом ценности и неприкосновенности именно этой личности, со всеми ее недостатками и шизовками.

← →
Reindeer Moss Eater © (2007-11-15 14:42) [282]

Блин, как-то мрачновато получается.
А шарманка, сочиняющая новые романы-бестселлеры и не замороченная на улучшении человеческой породы - это не будет ИИ?

← →
фуке (2007-11-15 16:37) [283]

Следовательно, говоря "разум" мы имеем в виду "вменяемость".
Не следовательно. Это разные вещи.
Вменяемость - адекватное понимание ситуации, отношение к происходящему вокруг. Относится скорее к уголовному праву. В уголовном праве нормальное состояние психически здорового человека; выражается в способности отдавать отчет в своих действиях (интеллектуальный признак В.) и руководить ими

разум высшая, существенная для человека, как такового, способность мыслить всеобщее, способность отвлечения и обобщения (Брокгауз и Ефрон)

действовать разумно надо определить, что Вы под этим понимаете
Например, разумно ли противодействовать заведомо более сильному? :-)

Странно, но Вы изменились... Некогда представлялись философом. Теперь физик видимо...?
Метаморфозы жизни ? :)

← →
kaif © (2007-11-15 20:15) [284]

фуке (15.11.07 16:37) [283]
разум высшая, существенная для человека, как такового, способность мыслить всеобщее

у безумного есть разум?
Вопрос не к словарю, а к Вам лично.

← →
фуке (2007-11-15 20:30) [285]

Безумный способен мыслить и, следовательно, у него есть разум.
Можно сказать, что он мыслит неправильно, неверно, неадекватно.
Но что правильно? Так же как все?
Можно вспомнить массу примеров того, как людей неадекватно мыслящих считали безумными, но потом признавали гениями.
Надо заметить, что даже тяжело больные люди. Например, перенесшие инсульт обладают разумом. Конечно, существенно отличаясь от обычного человека.

← →
фуке (2007-11-15 20:31) [286]

А на мой вопрос Вы не ответили...

← →
Reindeer Moss Eater © (2007-11-15 21:18) [287]

"безумный, но с разумом"
Звучит однако.
А почему же их зовут не (с)умными, а именно (без)умными?

← →
фуке (2007-11-15 21:35) [288]

Reindeer Moss Eater © (15.11.07 21:18) [287]
Что непонятно? Не можете представить себе разум, отличающийся от разума обычного человека?
Напейтесь и побуяньте... Соседи вполне могут сказать, что Вы безумны или не разумны, если пьете ...
Попробуйте выйдя на улицу потребовать от милиции помочь Вам купить водки или пива. Аналогично... :)

← →
Reindeer Moss Eater © (2007-11-15 21:56) [289]

Да мне щас пофик на соседей и милицию.
Я про русский язык.
:)

← →
фуке (2007-11-15 22:27) [290]

Reindeer Moss Eater © (15.11.07 21:56) [289]
И я про русский язык. Какой же еще?
пофик на соседей и милицию
Но оценку Вашей разумности или не разумности сделают именно они :)

ЮРОДИВЫЕ - в православии (см.) - слой странствующих монахов и религиозных подвижников. Ю. принимали облик безумия во имя "поругания миру", стремились показать внеположенность пути Христова мирскому величию. Ю. как слой изначально зародились в среде восточного монашества в 6-7 вв. Бесноватость как полное уничижение личной гордыни, прорицание в безумных образах, смиренное приятие побоев и публичных унижений и др. - изначальные характеристики Ю. В России Ю. полагались в общественном мнении Божьими людьми, им дозволялось (в том числе и власть предержащими) "резать правду-мать".

Согласно православным богословским источникам, Ю. - люди, принимавшие на себя из любви к Богу и ближним, один из подвигов христианского благочестия - юродство о Христе. Ю. не только добровольно отказывались от удобств и благ жизни земной, от выгод жизни общественной, от родства самого близкого и кровного, но принимали на себя вид безумного человека, не знающего ни приличия, ни чувства стыда, дозволяющего себе иногда соблазнительные действия. Эти подвижники не стеснялись говорить правду в глаза сильным мира сего, обличали людей несправедливых и забывающих правду Божию, радовали и утешали людей благочестивых и богобоязненных. Ю. нередко вращались среди самых порочных членов общества, среди людей погибших в общественном мнении, и многих из таких отверженных возвращали на путь истины и добра. Почтя все Ю. Востока и некоторые из них на Руси были иноки. Выражение апостола: "мы безумны Христа ради" послужило основой и оправданием подвига юродства. В древнем русском языке часто употреблялось слово "оурод", "юрод"; им переводилось греческое "глупый", "безумный". В житии блаж. Симеона его постоянно называется "оуродом" - "юродом"; в Печерском патерике упоминается Исаакий, который "поча по миру ходити оуродом ся творя". В Общей Минее 1685 тропарь Ю. читается так: "глас апостола твоего Павла услышав глаголющ; мы оуроди Христа ради, раб твой Христе Боже - оурод бысть на земли...", а в Общей Минее 1860: "глас апостола твоего Павла услышав - мы юроди Христа ради... юрод бысть". Первой по времени Христа ради юродивой была св. Исидора (ум. ок. 365), подвизавшаяся в Тавенском женском монастыре. Житие ее описал св. Ефрем Сирин, посетивший пустыни Египта в 371. Из других Ю. Восточной (Греческой) Церкви известен преп. Серапион Синдонит, преп. Виссарион Чудотворец, св. Симеон, преп. Фома, св. Андрей. Вместе с юродством русские заимствовали от Восточной Церкви также и подвижничество в его разнообразных видах. На Руси первым по времени Ю. был киево-печерский чернец Исаакий, скончавшийся в 1090. В продолжение лишь трех веков (14-16) на Руси насчитывается не менее 10 святых Ю., тогда как в общем месяцеслове Православной Церкви в течение пяти веков (6-10) присутствуют не более четырех святых Ю., принадлежащих различным странам.

Имели ли они разум? Несомненно.

← →
Reindeer Moss Eater © (2007-11-15 22:31) [291]

Букв много. Еще раз. Я не про милицию, соседей и юродивых.
Я про слово русского языка.
"Безумный".
Приставка "без"
Корень "ум"
ну и окончание и суффикс.

И про вашего безумного с умом.

Я только про слова и про ничего больше.

← →
Reindeer Moss Eater © (2007-11-15 23:11) [292]

Безумный способен мыслить и, следовательно, у него есть разум.

Бессовестного менеджера банка мучали угрызения совести за то, что он уговорил холостого бездетного отца троих детей взять беспроцентный кредит на шубу своей жене под семьдесят процентов годовых.

← →
bcm/marksistskaya (2007-11-15 23:11) [293]

kaif © (15.11.07 14:34) [281]

> Но как только мы отдадим им право принимать все решения
> за нас, то они быстро разделятся на роботов-исполнителей
> и роботов-вершителей и возьмутся за нас с целью усовершенствования
> нашей природы - делать нас счастливыми.
> На самом деле в "Отроках во всленной" все точно показано.

Хорошо, пусть понятие ИИ носит чисто правовой характер. Очевидно, что призыв к ответственности бесчувственной системы не имеет смысла. Попробуем рассмотреть искусственную личность (ИЛ).

Будем считать искусственной личностью ИИ, способный сопереживать человеку, распознавать его эмоциональные состояния, моделировать эмоциональные состояния людей в той или иной ситуации.
Система не может чувствовать так же как и отдельно взятый человек. Она не может понимать какие переживания он испытывает, не может поставить себя на его место. Ей, учитывая ее превалирующее положение, этого просто не нужно.
Но, вот создана ИЛ. Конечно вряд ли ей будет доступна вся палитра чувств, которые способен испытывать человек. Однако ИЛ будет обладать этикой, похожей на человеческую. Мы можем сделать так, чтобы, она не выходила за определенным образом очерченные рамки этой этики. Например, марши протеста искусственных личностей против голода в Уганде в рамках данной этики считались бы не этичными и порицались бы внутренним надзирателем ИЛ. Пусть ИЛ будет осознавать эти границы и испытывать обреченность из-за врожденной невозможности за них выйти. Это будет неким аналогом похожего чувства у человека смертного, так она сможет лучше нас понимать.
Мы сделали шаг на пути к отказу от бездушной системы.
Пусть у нашей системы будет редуцировано чувство страха, и она не будет паниковать в экстремальных ситуациях, но мы наделим ее жгучим чувством вины. Мы сможем тогда ей ее вменять и она при этом будет мучаться.
Итак мы можем призвать систему к ответственности. Пусть она совершила ошибку, и отправлена на трехгодичные моральные истязания в подземный ВЦ в Сибири. Какие проблемы мы этим решим? Потешим свое самолюбие? Научим систему лучше нас чувствовать? Вряд ли. Худо бедно, такой подход действует по отношению к личностям естественным. Естественные личности имеют амбиции, паническое чувство страха, стремление к власти. Но подобные стремления будут запрещены этикой ИЛ. Ошибка станет для нее ценным опытом, который может накапливаться и передаваться другим ИЛ без их ущемления.
Как же решить проблему с ответственностью? Видимо, человек просто должен иметь выбор, доверить управление, которое он не может осуществить сам другому человеку или ИЛ. Ответственность за этот выбор будет целиком лежать на нем самом. По мере накопления опыта, вероятность ошибки будет снижаться и со временем, в этом плане, будет безразлично кому довериться. Почему человек захочет доверить себя ИЛ? Такой поступок будет давать некоторые преимущества.
Очевидно, для того, чтобы этика работала, детали функционирования ИЛ должны быть скрыты от нее самой. Должен существовать некий запрет, подобный запрету на исследование морали, имеющийся у внутреннего надзирателя верующих людей. Мы можем перенять у религии этот ценный опыт. Но при этом возникает одна нерешаемая проблема. К сожалению, этот запрет ограничивает творческие возможности ИЛ в плане этики. Они не смогут революционно совершенствовать собственную мораль в рамках данной им этики.

← →
Юрий Зотов © (2007-11-15 23:14) [294]

> Будем считать искусственной личностью ИИ, способный сопереживать
> человеку, распознавать его эмоциональные состояния, моделировать
> эмоциональные состояния людей в той или иной ситуации.

Эва, брат, хватил... на это и естественная личность не каждая способна...

← →
bcm/marksistskaya (2007-11-16 01:48) [295]

Юрий Зотов © (15.11.07 23:14) [294]

Сказка - ложь.

kaif © (15.11.07 14:34) [281]

Ошибка жителей Кассиопеи видимо была в том, что они опрометчиво проецировали собственную очень высокоразвитую этику на предметы, вообще никакой этики не имеющие. Для них не действовали те же запреты, что действуют в этике сколько-нибудь воспитанных человеческих существ с планеты земля, например запрет на однозначное глобальное определение термина счастья (попробуете определить - засмеют).
Мне известно еще одно малораспространенное порнографическое произведение (его можно найти по кодовому названию SAC 2nd GIG) где так же как и в упомянутом фильме показаны ИИ (скорее ИЛ) слуги.
В нем эпизодически исследуются антропоморфный и коллективный ИИ. Антропоморфный ИИ не проявлял каких-либо выдающихся качеств и выглядел весьма приятным, но безразличным человеком. Коллективный же ИИ был похож на ребенка. Он исследовал окружающую действительность, совершал опрометчивые поступки, задумывался о вопросах жизни и смерти, получая инсайты, последствия которых немедленно ликвидировались. В конце концов, он совершил странный поступок - пожертвовал собой ради людей. Его этика эволюционировала.
ИИ - не может являться социальным элементом, ИЛ может. Может быть это тот путь, который нивелирует опасность разрастания искусственных систем молохов? Но видимо, успешность его осуществления зависит от того как глубоко мы можем заглянуть в себя. Запреты могут лишить нас возможности видеть детали.

← →
Думкин © (2007-11-16 05:55) [296]

> Мы не можем создать устройство, которое бы видело красный
> цвет.
> Но нам ничего не стоит создать устройство, которое бы отличало
> этот цвет и называло его красным.

Это утверждение, которое будет верно всегда или это результат основанный на нынешних реальных достижениях? Откуда категоричность? Но и еще, а точно известно, что мы не теже самые устройства, которые всего лишь видят красный цвет и называют его таким?

> Мы не можем создать устройство, которое бы сознательно предпочло
> в определенной ситуации действовать разумно, а не идти на
> поводу своей обиды или гнева.

То же самое. Тут вообще непонятки по полной.

А по поводу судить автоматы, которые для тебя суть ИИ, также. По сути такие суды есть - экспертиза, напрример. В случае чего - снимем с производства, кого-то посадим, кому-то запртетим определенный вид деятельности.
В болле же сложных ситуациях, которые сейчас не реализованы - спекулировать на эту тему так же продуктивно, как если бы Древние Греки узнав о том, что есть машины стали бы придумывать ПДД. Получилось бы красиво, но любой современный автолюбитель со средним стажем разнес бы эти ПДД в полчаса под бутылочку пива.

← →
Думкин © (2007-11-16 14:43) [297]

Либо чтд либо я жду невозможного.

А все-таки, что есть интуитивное изобретение колеса? Просто интересно.

← →
kaif © (2007-11-16 15:17) [298]

Очевидно, что призыв к ответственности бесчувственной системы не имеет смысла.

Не согласен с таким утвердением.
Повторюсь, ответственностью называется необходимость давать отчет о своих решениях и доказывать их рациональность понятным нам способом.

Когда ответственный родитель не матерится при детях, он может объяснить, почему он так поступает, сославшись на правила поведения человека в обществе, цели воспитания и общечеловеческий опыт, говорящий о том, что сложно воспитывать то, чего не придерживаешься сам. При этом вовсе не обязательно, чтобы он умел испытывать чувство вины, боль, страшиться наказаний и т.п.

Ответственность системы есть лишь правовое требование такого рода:
ИИ имеет собственный опыт и собственную интерпретацию этого опыта. Поэтому мы не всегда можем предсказать его решения, хотя его поведение и строго детерминировано. Поэтому ИИ обязан отчитываться в случае, если его решения привели к опасным или трагическим результатам. Отчитываться, сообщая нам, на какой собственный или общечеловеческий опыт он опирался, как его интерпретировал в рапмках сложившейся ситуации, какие цели при этом преследовал, какие научные теории полагал истинными, каких правил придерживался, какими правилами посчитал возможным пренебречь.

Я ЛИЧНО НЕ ВИЖУ ПРИЧИН, ПОЧЕМУ БЫ СОВЕРШЕННО БЕЗДУШНАЯ МАШИНА НЕ СМОГЛА БЫ ВЫДАТЬ ТАКОГО РОДА ОТЧЕТ.

Я исключаю за ИИ способность к иррациональному выбору.
Выбор действовать рационпльно сам по себе не может быть обоснован рационпльно. Когда человек действует рационально, он отдает себе отчет в собственных действиях, полагается на опыт и науку, не обожествляет интуицию и не верит в чудеса. Однако сам выбор в пользу такого поведения у человека есть акт абсолютно иррационального выбора. Если бы было не так, безумие лечилось бы простыми логическими увещеваниями и ссылками на здравый смысл, но безумие так не лечится.

Машина на этот выбор не способна. Так как у нее нет сознания. Выбор в пользу рациональности мы совершаем за нее. Мы ей эту стратегию навязываем помимо ее воли. Машина не моджет сойти с ума в принципе. Она может испортиться или выработать глупые теории, опираясь на кривой опыт.

Вменяемость машины, требование отвечать перед судом просто восстанавливает тот момент интерсубъективной проверки теорий на логичность и соответствие фактам, о которой писал Поппер. Больше ничего. Если министерство или ИИ будет ссылаться на особые свойства "менталитета своего народа", суд не примет таких иррационнальных аргументов, пока не будет доказано, что подобная вещь действительно существует. Одного мнения министерства или ИИ н6а этот счет суду будет недостаточно, когда министерство обвинят, например в тотальной коррумрированности, как принципе, поощряемом этой системой сознательно.

← →
Сергей Суровцев © (2007-11-16 16:41) [299]

>Думкин © (16.11.07 14:43) [297]
>А все-таки, что есть интуитивное изобретение колеса? Просто интересно.

Это изобретение не опирающееся на теорию. У кого-то в мозгу совместилось несколько факторов и возникла идея. Возможно кто-то догадался на личном опыте, что катить камень проще чем его тащить. И возникла ассоциация. У человека вообще ассоциативное мышление.

>kaif © (16.11.07 15:17) [298]
>Я ЛИЧНО НЕ ВИЖУ ПРИЧИН, ПОЧЕМУ БЫ СОВЕРШЕННО БЕЗДУШНАЯ МАШИНА
>НЕ СМОГЛА БЫ ВЫДАТЬ ТАКОГО РОДА ОТЧЕТ.

Такого рода ответ можно получить уже сейчас от любой системы, если он в ней предусмотрен. Называется лог. Только судить судом по нему бессмысленно. Можно лишь проанализировать и поправить параметры системы если нужно. ИИ здесь не при чем. Так работает большинство современного ПО.

← →
Eraser © (2007-11-16 17:04) [300]

> kaif © (16.11.07 15:17) [298]

> Выбор действовать рационпльно сам по себе не может быть
> обоснован рационпльно. Когда человек действует рационально,
> он отдает себе отчет в собственных действиях, полагается
> на опыт и науку, не обожествляет интуицию и не верит в чудеса.
> Однако сам выбор в пользу такого поведения у человека есть
> акт абсолютно иррационального выбора. Если бы было не так,
> безумие лечилось бы простыми логическими увещеваниями и
> ссылками на здравый смысл, но безумие так не лечится.

интеллект, будь он искусственный или натуральный, есть интеллект.. соотвенственно ИИ по-оперделению свойствены все функции натурального интеллекта, иначе это будет уже не интеллект. Т.е. обман, заблуждения, иррациональность и т.п. будут тоже присущи ИИ.

← →
Думкин © (2007-11-19 06:02) [301]

>Сергей Суровцев © (16.11.07 16:41) [299]
Это понятно. Не понятно, почему в этом отказываем создаваемым нами механизмам. Причем вообще и во веки веков.

Eraser © (16.11.07 17:04) [300]
интеллект, будь он искусственный или натуральный, есть интеллект.. соотвенственно ИИ по-оперделению свойствены все функции натурального интеллекта, иначе это будет уже не интеллект. Т.е. обман, заблуждения, иррациональность и т.п. будут тоже присущи ИИ.

Собственно о чем и речь, а не об автоматах нынешнего поколения. Потому что в таком случае, все уходит в другую плоскость и совсем уж не в область детских мечт.

← →
Сергей Суровцев © (2007-11-19 07:45) [302]

>Думкин © (19.11.07 06:02) [301]
>Это понятно. Не понятно, почему в этом отказываем создаваемым нами
>механизмам. Причем вообще и во веки веков.

Потому что у машины принципиально иной образ "мышления". Вернее отсутствие мышления как такогого на данный момент. И нет никаких теоретических возможностей им это мышление привить.

А аргумент типа "а вдруг потом что-нибудь придумают" годиться вообще для всего на свете. И если исходить из его применения, то невозможных вещей вообще нет. И неправильных тоже.

← →
Думкин © (2007-11-19 08:15) [303]

>Потому что у машины принципиально иной образ "мышления".
А уже известно какой у нас?

>Вернее отсутствие мышления как такогого на данный момент
И что это доказывает, кроме того, что на данный момент так?

>И нет никаких теоретических возможностей им это мышление привить.
Тут бы со своим для начала разобраться, а потом уже говорить, что теоретически возможно, а что нет.

>А аргумент типа "а вдруг потом что-нибудь придумают" годиться вообще для всего на свете. И если исходить из его применения, то невозможных вещей вообще нет. И неправильных тоже.

Ни разу не так. Логическая ошибка на лицо. Я не исхожу из этого. Это ты исходишь из того, что это все, баста - принципиально невозможно, абсолютно и никогда. А с чего бы вдруг?
Вот то, что никому не удастся найти тройку целых чисел отличных от нуля такую, что первые два будучи возведены в целую степнень больше двух, дадут в сумме третье возведенное в такую же степень - это я понимаю. Или что основываясь на современных механических принципах не создадудт мехВД первого рода - это я тоже понимаю. В твоих утверждениях я ничего не понимаю - на чем основана твоя категоричность? На том, что сейчас нет работ реализующих это? Так это маловато будет.

только замечание - не приписывай категоричность всоздании мне.

← →
Сергей Суровцев © (2007-11-19 12:13) [304]

>Думкин © (19.11.07 08:15) [303]
>>Потому что у машины принципиально иной образ "мышления".
>А уже известно какой у нас?
>>Вернее отсутствие мышления как такогого на данный момент
>И что это доказывает, кроме того, что на данный момент так?
>>И нет никаких теоретических возможностей им это мышление привить.
>Тут бы со своим для начала разобраться, а потом уже говорить, что
>теоретически возможно, а что нет.

Да нет у тебя никакой категоричности. Напротив, сплошная толерантность. Аж странно даже. Такой подход принципиально не противоречив. И если строго следовать ему, то возможность того, что в будущем люди будут летать, колдовство будет признано как наука, а заодно найдут русалок и драконов также равновероятна, как и полноценный ИИ. Ограничение только высотой полета фантазии. И спорить тут конечно не о чем, просто хотел поближе разобраться в сути этого подхода.

← →
Думкин © (2007-11-19 12:36) [305]

> Сергей Суровцев © (19.11.07 12:13) [304]

Это не так. При чем тут драконы, колдовство и прочее? Спорить безуслвоно не о чем, но ситуация принципиально другая. И насчет равновероятности также.

Вот 1980 год на дворе. т.Ферма не доказана. Что можно сказать по этому поводу? Да практически все, что угодно. Привести соображения в сторону того, что она никогда не будет доказана, или привести обратные. Главное, что любое катеогричное утверждение по ее поволду будет восприянто не просто ос скепсисом, но и попросят обоснований, а более серьезная публика и доказательств. А его нет.
Так и с ИИ. Ты высказываешь категоричное мнение. Мне кажется, что эта категоричность преждевременна. Ты говоришь, что нет. Доказательств не предъявляешь. А ну получится как с теми, кто говорил что т.Ферма никогда не докажут?
Речь все-таки идет о силе твоих категоричных текстов, а не о моей позиции. Потому. что моя позиция проста и доступна даже для первоклассника. твоя же позиция религиозна по самой своей сути. то есть как раз обладает тем недостатком, который ты приписывал мне. Но в чем моя религиозность в данном вопросе так и не показал.

А спорить действительно не о чем. И фантазия тут совершенно ни при чем. А в сути явления - так конь сферический в вакууме для меня пока. Просто и мне интересно - почему человека зачастую возводят в некий интеллектуальный центризм? С верующими - с ними разговор короткий. А вот с другими как? Я не вижу пока для этого оснований, чтобы еще и в абсолют их возводить. Почему бы не ожидать от человечества создания, ну хотя бы подобия себя, а может и покруче?

Вот о таком ребенку мечать нормально, а не о судебно-правовых аспектах ИИ и стоит ли его теперь делать, раз это банальный автомат по выдаче газировки. :)

← →
kaif © (2007-11-19 14:30) [306]

Вот о таком ребенку мечать нормально, а не о судебно-правовых аспектах ИИ и стоит ли его теперь делать, раз это банальный автомат по выдаче газировки.

Это, похоже, камень в мой огород.
Так вот если бы ты постарался понять, к чему я клоню, то тебе не составило бы труда сформулировать мое сказанное в виде мечты для ребенка:
"Создать машину, которая могла бы мне объяснить свое решение любой задачи, а не просто выдавала бы результаты на гора с умным видом - машину, у которой мне самому было бы иногда чему поучиться, машину, которая могла бы ошибаться, и ч котрой мы могш\ли бы найти вместе ее ошибки, просто беседуя, а может быть иногда и споря, машину, которая могла бы стать интересным собеседником...".

Или ты полагаешь, что ребенок может мечтать лишь о создании такой машины, котрая "все будет решать за меня, ничего не объясняя"?
Извини, конечно, но мне кажется, что такая машина не мечта ребенка, а мечта его родителя.

← →
stone © (2007-11-19 14:36) [307]

> kaif © (19.11.07 14:30) [306]
> "Создать машину, которая могла бы мне объяснить свое решение
> любой задачи, а не просто выдавала бы результаты на гора
> с умным видом - машину, у которой мне самому было бы иногда
> чему поучиться, машину, которая могла бы ошибаться, и ч
> котрой мы могш\ли бы найти вместе ее ошибки, просто беседуя,
> а может быть иногда и споря, машину, которая могла бы стать
> интересным собеседником...".

В последнее время куча народу страдает интернет-зависимостью. Ососбенно это касается молодого поколения в крупных городах. Подростки все меньше общаются лично, и, все больше в сети. Ты же говоришь о машине, которая полностью заменит потребность в живом человеческом общении. Шаг к пропасти?

← →
kaif © (2007-11-19 14:39) [308]

И я, говоря об ИИ, считаю умение продемонстрировать ход решения задачи главным отличием любого интеллекта, который полагает, что он мыслит рационально.
Мы называем инспектора ГИБДД разумным не когда он способен доказать Большую теорему Ферма и не когда способен изобрести с нуля колесо, а когда он может объяснить любое свое решение убедительным для нас способом, отличным от силового.

2 stone © (19.11.07 14:36) [307]
Я полагаю, что изучение интернет-зависимости подростков от форумов и чатов может пролить свет и на решение задачи создания ИИ. Более того, я нахожу, что наезды на "ламеров" на этом форуме демонстрируют инстинктивный иммунитет форумчан против вопросов, которые с успехом мог бы задавать уже действующий ИИ.
Представим себе простой алгоритм по написанию очередной книги "Секреты Дельфи для продвинутых чайников". Некий процесс сканирует форумы, отыскивая наиболее часто задаваемые вопросы, например, как запуздырить иконку в трей. Набрав нужную статистику, он уточняет верные ответы, задавая вопросы сам. Тупит, естественно, на любой встречный вопрос. Но анализируя ответы, быстро принимает решение, есть ли у него в коде ошибка. Затем собирает это все в книженцию, снабжает оглавлением и отправляет в редакцию. А автор этого ИИ лишь приходит к банкомату за гонораром. Чем не бизнес?
Вопрос: кто автор книжки?
Я полагаю, что это ИИ.
Не обязательно шибко умный.
Зато сумевший развести тыщу шибко умных мастеров на интернет-ресурсах.

Интеллект человека замечателен вовсе не количеством синапсов в башке. А тем, что человек может присоединять культурные ресурсы для реншения своих задач. Новые для себя ресурсы. Открыть книгу, например. Илоии задать вопрос на форуме. И настоящий ИИ будет делать то же самое. Сила человеческого интеллекта обусловлена не особым устройством его мозга. В этом смысле человек не так далеко ушел от мыши, как многим кажется. А тем, что людям удалось создать культуру - информациолнное пространство, в котором любой человек может решать проблемы, обращаясь не только к своему опыту и своим мыслям, но и к опыту человечества и мыслям давно почивших в бозе великих мыслителей прошлого.
Не искючено, что если бы мышь имела такую гортань и такой подвешенный язык, как сапиенс, она создала бы цивилизацию не хуже нашей. Мыши не повезло не с мозгом, а с недоразвитым речевым аппаратом.

Как нормальный педагог учит детей?
Разве он заставляет их лишь зубрить определения и приносить ответы на задачки?
Нормальный педагог требует "сказать свими словами то же самое" и требует демонстрации и даже культкрного оформления подробного хода решения задачек.

Путь к созданию ИИ лежит в той же плоскости - научить машину усваивать культуру, созданную до нее. И научиться говорить одно и то же по-разному. Так как чем большим количеством способов и с чем большего количества ракурсов мы способны высказать одну и ту же мысль, тем мы глубже ее понимаем.

А пока что мы движемся в прмо противоположном направлении.
Вместо того, чтобы учить машину демомонстрировать нам ход ее рассуждений, мы учим детей сдавать экзамены машине. Сдавать в формах, все более удаляющих нас от того, что можно было бы назвать демонстрацией хода рассуждения.

А кто нибудь задумывался о том, откуда возникло слово "демонстрация"?
Это очень древнее слово, означающее именно устранение монстров.

ЛОГ-файлы не демонстрируют нам хода рассуждений для полноценного решения задачи, они лишь протоколируют процесс решения. Это не то же самое.

Если запротоколировать сам процесс поиска решения задачи у ребенка или даже у взрослого, то это скорее интересно длоя психологии, нежели для тех, кого интересует собственно решение. Часто это метод тыка, перебора и отсечения каких-то песперспективных или слишком трудоемких путей. В зависимости от степени личного опыта (навыка), часть путей отсекается быстрее. Решение непривычных задач, в отличие от простых упражнений, часто идет кругами, пока человек себе ясно не сформулирует саму задачу и ее смысл. Часто в этот процесс вмешиваются ассоциации, дурные аналогии, пока человек не вырулит на некоторую идею или несколько идей, которые он попробует проверить.

И только когда он решил задачу, он начинает оформлять свое решение.

Это оформление скорее есть доказательство решения, нежели протокол процесса поиска. И ближе всего это доказательство к тому, что происходило бы в суде или перед неким иным жюри.

ЛОГ-файл, как протокол, не имеет никакой культурной ценности. А доказательство решения имеет такую ценность, так как это доказательство и есть то, что мы называем решением задачи.

Одно дело, когда масон-каменщик может объяснить назначение клиновидного камня, а совсем иное - когда он полагает, будто сей камень есть сакральный элемент архитектуры, уберегающий путем задабривания строение от злых духов, могущих вызвать разрушение по своей прихоти.
И хотя решение и того и другого камещика одинаково - применить клиновидный камень в дверном проеме, мотивы и культурное значение их объяснений различны. Объяснение первого содержит в себе потенциал для будущего развитие техники зодчества, объяснение второго - бесплодно в этом смысле.

> kaif ©

Человек разумен, потому что он понимает, что он говорит или думает. Причем не всегда даже может выразить свое понимание некими словами - см. форумы. А выражать разными словами машина тоже умеет. Легко можно представить программу, которая переделывает код сотней разных спсобов без потери функцинальности. Но не понимая его смысла.

А вот что значит "понимать", - это уже совсем дроугой вопрос, и пока безответный. Как только мы поймем механизмы своего понимания, так тут же мы поймем, что же такое ИИ. И можно ли его создать с использованием таких-то и таких-то технологий.

Человек разумен, потому что он понимает, что он говорит или думает.

А обезъяна не понимает что она говорит и что она думает
Но говорит. Не понимает, но все равно говорит и все равно думает.
Дура.
:)))

> Человек разумен, потому что он понимает, что он говорит
> или думает

не всегда

Понимание чего-то это способность выразить это что-то разными понятными непосвященным способами.
Больше ничего.
Понимание, как своего рода чувство, вообще ничего не означает. Тысячу раз наблюдал, как такого рода "понимание" на поверку оказывалось совершенным недопониманием.
Учитель имеет способы проверить, понял ученик тему или не понял.
Учителю нет дела до того, что на этот счет думает сам ученик.

Много людей, как им кажется, понимают, что имеется в виду под слоганом "План Путина - победа России". Но никто не может вразумительно сказать, в чем этот план состоит.

Такое понимание я бы отнес к иррациональной части нашего существа - к ощущению. То есть под слоганом что-то ощущается, хотя и ничего конкретного не подразумевается.

Например, ИИ не смог бы понять, в чем состоит план Путина.
Или кто-то полагает, что если ИИ станет умнее нас, то он сможет это понять?
Если такие верующие в ИИ имеются, пусть выскажутся.

> "План Путина - победа России". Но никто не может вразумительно
> сказать, в чем этот план состоит

даже сам Путин?

Существуют целые оккультные братства снованные на ощущениях понимания, недоступных "простым смертным". Например, существует учение о том, что Лев Толстой - новая инкарнация Сократа. И члены братства, выработавшие в себе "специальный духовный член" при помощи этого "члена" все это понимают. "Обычным человекам" сие недоступно, пока те не выработают аналогичный "духовный член".

> И члены братства, выработавшие в себе "специальный духовный
> член"

кому телесного не хватает, тот духовный вырабатывает... )

>Думкин © (19.11.07 12:36) [305]
>Так и с ИИ. Ты высказываешь категоричное мнение. Мне кажется, что эта
>категоричность преждевременна. Ты говоришь, что нет. Доказательств не
>предъявляешь. А ну получится как с теми, кто говорил что т.Ферма
>никогда не докажут?

Да получиться может все что угодно. Я категорично заявляю только одно - на данный момент нет никаких оснований считать реализацию ИИ в его изначальном смысле возможным. Нет ни одного убедительного доказательства этой возможности.

>Речь все-таки идет о силе твоих категоричных текстов, а не о моей
>позиции. Потому. что моя позиция проста и доступна даже для
>первоклассника. твоя же позиция религиозна по самой своей сути. то есть
>как раз обладает тем недостатком, который ты приписывал мне. Но в чем
>моя религиозность в данном вопросе так и не показал.

Моя позиция последовательна, в отличии от твоей.

>Просто и мне интересно - почему человека зачастую возводят в некий
>интеллектуальный центризм? С верующими - с ними разговор короткий. А
>вот с другими как? Я не вижу пока для этого оснований, чтобы еще и в
>абсолют их возводить. Почему бы не ожидать от человечества создания,
>ну хотя бы подобия себя, а может и покруче?

А почему это с ними короткий разговор? Они верят в то что Бог есть, не приводя реальных доказательств и обоснования реальной возможности его существования. Это ты отвергаешь, причем не приводя железных доказательств его невозможности, а требуя доказательств от них. Но в то же время заявляешь что ИИ может быть, тоже не приводя реальных доказательств его принципиальной возможности. Но тут уже ты отстаиваешь позицию, при которой ты ничего доказывать не должен, а пусть убедительно докажут тебе, что этого быть не может.
В этом и религиозность. Чтобы быть честным ты должен к обоим вопросам подходить с одной позиции. А если подход такой, какой есть, то он религиозен и твоя религия ничем не отличается от их.

А кто-нибудь в детстве мечтал быть программистом? Найти похожие ветки