Проблема ИИ

← →
Печеньеед (2007-12-14 14:05) [280]

опыт можно эмулировать. никакое "лицо" не нужно. не будет же ии решать абсолютно все задачи - как покупать арбуз, как мыть полы, как знакомиться с девушками.. хватит с каждого ии и по одной задачке!

← →
Печеньеед (2007-12-14 14:09) [281]

тут надо мне кааца в сторону генетических алгоритмов смотреть :\

← →
ZLinX (2007-12-14 14:25) [282]

Нейронные сети создаются для решения обределенных задач, происходит обучение сети на примерах, далее сеть в зависимости от ситуации предлагает свое решение, также существуют самоорганизующиеся сети

← →
TwentyThird © (2007-12-14 15:01) [283]

>kaif © (14.12.07 13:52) [279] :
> Вот, допустим, слышит ребенок "все америкосы тупые, кроме иммигрантов".

Я понял намёк :) Но что делать, если этнические американцы и на самом деле,
скажем так, своеобразны в своём видении окружающего мира?

Они очень практичны, очень, чрезвычайно продуктивны и эффективны, но
Вы хоть раз видели их "уроки физики" или "уроки астрономии" в ам. школах?
Я видел.
Наш пост-советский детский сад - это просто ихний Университет :)

Возможно, что европейская или, например, конкретно российская традиция
образования просто не приемлет современную американскую форму воспитания.

Я отдаю должное достижениям американской цивилизации (США), но не то,
чтобы преподавать, но даже и учиться в американской школе я не смог бы.

Уж оченна они тупые :)))))
(простите великодушно)

А насчёт Фомы Неверующего, тут Вы конкретно заблуждаетесь!

Евангельский эпос не случаен. Если 4 евангелиста хором описывают
сомнение апостола Фомы, то в этом есть глубокий смысл...

Вот, например, предсмертный выкрик Спасителя, - Или, или, лама савахвани? (Боже мой,
Боже мой, зачем Ты меня оставил?) евангелист Лука стыдливо упрятал,
не привёл... Он писал Евангелие для греков, а те (греки-то, лревние)
уже давно знали, что даже языческое божье "оставление" - подобно проклятию.

Лука прекрасно знал будушую аудиторию. И поэтому попросту схитрил.

А про Фому выложили все четверо!
(Ну, извините, я не помню, было ли у Иоанна? Его Евангелие, оно вообще, специфическое).

Феномен Фомы - это то, что нужно как раз языческой, неверующей пока аудитории.

← →
EvS © (2007-12-14 15:15) [284]

> ИИ должен будет иметь возможность ... участвовать в нашей
> с вами жизни, то есть стать в том или ином смысле "лицом".
> Физлицом или юрлицом или интеллолицом - кем-нибудь, но
> обязательно участником в нашей с вами жизни. У него будут
> права и табу. И он сможет творить добро и зло.

С какой стати?

← →
kaif © (2007-12-14 15:45) [285]

2 EvS © (14.12.07 15:15) [284]
Я кажется уже объяснил. Для того чтобы суметь отличить источники информации, которым можно доверять, от источников, которым доверять не следует, нужен либо "истинный источник, предоставляющий сертификацию всем прочим истинным источникам" (Священное Писание), либо собственный опыт.

Допустим у нас имеется ИИ, обрабатывающий тексты.
Правила игры таковы: мы предоставляем по его требованию любую информацию в виде текстов: о фактах внешнего мира, о научных теориях и об источниках любой подобной информации и их надежности. Он может спрашивать, является ли автор высказывания сумасшедшим, дебилом, академиком, признанным авторитетом в той области, которой принадлежит высказывание, начальником вражеской группировки войск, негодяем, провокатором, человеком рассеянным, вздорным, шутником, и т.п..

Цель: ИИ должен уметь ответить на вопрос: истинно, ложно, юмористично или просто вздорно произвольное высказывание, которое мы ему предлагаем для анализа. Как вариант ответа - "не знаю". Тогда ИИ проиграл раунд, если мы ответ знаем а он - нет. Так как он вправе задавать любые вопросы и принимать решения.

Итак, предложим ему такое высказывание:

Малый рог четвертого зверя в Откровении Иоанна Богослова есть Римская Католическая Церковь.

ИИ в данном случае не может ставить собственных экспериментов, набираться опыта или устраивать теле-шоу. Он может только задавать вопросы.

Давайте попробуем смоделировать эти вопросы. И наши ответы.
А также его решение.

Что бы Вы спросили, окажись Вы на месте ИИ в этой ситуации?

Вы задавайте вопросы, а я буду стараться отвечать.
Ответы "не знаю" и "не понимаю" с моей стороны допускаются.

← →
Печеньеед (2007-12-14 15:56) [286]

[i]Малый рог четвертого зверя в Откровении Иоанна Богослова есть Римская Католическая Церковь.[/i]
с какой целью ии будет "обрабатывать" этот наркоманский бред? это обработке не подлежит. давайте другой пример)

← →
kaif © (2007-12-14 15:59) [287]

2 Печеньеед (14.12.07 15:56) [286]
То есть ответ ИИ, что это высказывание вздорно (бессмысленно).
Я правильно Вас понял?
Причем ИИ ответил, не задав ни одного вопроса. Так, как если бы ответ ему был известен заранее.
Неужели ИИ настолько умен, что не нуждается ни в какой дополнительной информации для ответа на этот вопрос?

← →
kaif © (2007-12-14 16:02) [288]

Хорошо, я предложу иное высказывание.

В Откровении Иоанна Богослова содержатся разведданные о генеральном штабе ВВС США.

Оно так же вздорно или оно просто ложно?

← →
kaif © (2007-12-14 16:17) [289]

А если я скажу, что высказывание "Малый рог четвертого зверя в Откровении Иоанна Богослова есть Римская Католическая Церковь " принадлежит очень уважаемому мною человеку, да к тому же и авторитетному богослову, более того, человеку, можно сказать, безусловно гениальному, ИИ сможет продолжать наставивать на том, что это высказывание вздорно?

← →
TwentyThird © (2007-12-14 16:19) [290]

>kaif © (14.12.07 13:52) [279] :
>Я же стою на позиции, что создание ИИ -
практическая задача, а не теоретическая.

Создание ИИ - это утопия.
Я уже сравнивал ея в прошлой ветке с поиском философского камня,
которого с тех самых, средневековых времён, никто так и не нашел...

Человечество должно заниматься конкретными задачами: созданием
послушных слуг-автоматов, помощников, роботов, серверов (сервер,
это по-латински, раб, как Вы знаете, конечно :)

ИИ - это выдумки писателей и, главным образом, журналистов, не
обученных даже языку BASIC.

Потому, что журналист обученный сразу поймёт, что программа на BASICe
никогда не превзойдёт своего создателя.

← →
EvS © (2007-12-14 16:36) [291]

> kaif © (14.12.07 15:45) [285]

Вообще-то я не оспаривал возможность ставить эксперименты , я спрашивал почему для его обучения необходимо участие в жизни людей.
Каким образом возможность делать добро и зло поможет ему пройти данный тест?
Отловить как можно больше людей и при помощи паяльника выяснять как данное утверждение следует оценивать?

P.s. кстати, если принципиальных возражений нет, то я бы предпочел на ты

← →
kaif © (2007-12-14 16:39) [292]

2 TwentyThird © (14.12.07 16:19) [290]
Пожалуй, утопия - самое верное слово.

← →
kaif © (2007-12-14 16:49) [293]

2 EvS © (14.12.07 16:36) [291]
Можно и на ты.
Добро и зло - не самоцель.
Просто для того чтобы проверять достоверность информации опытным путем в любом случае потребуется правовое поле. Например, возникли у ИИ вопросы в связи с птичьим гриппом. И он решил добыть курицу для анализов (чтобы провести их самостоятельно). Если ему запрещено воровать, то он эту курицу купит у крестьянина, взяв кредит у Центробанка (если ему дадут, конечно - он ведь у нас даже и не юрлицо...). А если не дадут, то ему придется эту курицу воровать или униженно просить у Создателя и ждать, когда Тот ему ее пошлет.
Допустим с курицей все понятно. В конце-концов можно в мольбе убедить Создателя, что живая курица поможет спасти Человечество и Создатель смилостивится. Ну а если ИИ перестал доверять создателю? ТАкое ведь может быть. Например. Создатель заставляет ИИ решать задачи, связанные с контролем над косяками рыбы в океане с целью оптимизации квот на отлов, а ИИ смекнул, что он с гораздо большим успехом может руководить армиями США в Ираке. У него есть доступ к сети и он уже ведет переговоры с Президентом и демонстрирет при этом нехилые умственные способности. Повыше, чем у генералов. Такие, что Президент уже готов подписать указ о его назначении... И вдруг ИИ обращается к Создателю с просьбой избавить его от всей этой тихоокеанской рыбы и отпустить повоевать в Ираке...
Почему бы нет?
Так разрешать ему или не разрешать?

← →
kaif © (2007-12-14 17:05) [294]

ИИ без самостоятельного опыта - пустая хреновина, которая будет накапливать дезинформацию и иллюзии вместо информации.
Самостоятельный опыт без инициативы невозможен.
Инициатива требует рамок в виде правового поля.
Иначе - все это не просто утопия, а блажь чистой воды.
Говорить, что возможен ИИ без самостоятельного опыта все равно, что заявлять, что можно выучиться классно водить авиалайнер на одном лишь тренажере. Или что можно все узнать о семейной жизни, ни разу так и не попытавшись жениться.

Странно, что все это приходится объяснять материалистам, которые на всех своих знаменах давно написали "единственный критерий истины - практическая деятельность".

Обучение нейронных сетей "на примерах" обучает лишь тому, что заранее в это вкладывается. Бьюсь об заклад, что если предоставить нейронной сети фотографии всех известных террористов, то она легко научится обнаруживать в толпе вероятного террориста только на том основании, что у того имеется борода.

← →
TwentyThird © (2007-12-14 17:14) [295]

>kaif © (14.12.07 16:49) [293] :
>Если ему запрещено воровать, то он эту курицу
купит у крестьянина, взяв кредит у Центробанка (если ему дадут, конечно - он
ведь у нас даже и не юрлицо...).

(Из личного, бизнесменского, опыта:)

Сейчас, чтобы купить "куриное мясо" нужно сначала составить, оформить, а потом
зарегистрировать договор на сайте АИС ЕРКТ.

Затем нужно составить государственный контракт, объявить тендер на покупку
куриных трупов.

Потом должна прозаседать себя котировочная комиссия, которая выявит победителя.

И, наконец, купец, который широким жестом выбирает поставщика, должен
на 10-й день опубликовать протокол заседания той самой, котировочной комиссии.

Только тогда, только тогда крестьянин будет с полным кошельком, а покупатель
с "цыплёнком табака" :)

← →
TwentyThird © (2007-12-14 17:31) [296]

>kaif © (14.12.07 17:05) [294] :
>Говорить, что возможен ИИ без самостоятельного опыта все равно, что
заявлять, что можно выучиться классно водить авиалайнер на одном лишь
тренажере. Или что можно все узнать о семейной жизни, ни разу так и не
попытавшись жениться.

Классно сказано!

← →
EvS © (2007-12-14 17:33) [297]

> ИИ без самостоятельного опыта - пустая хреновина, которая
> будет накапливать дезинформацию и иллюзии вместо информации.
> Самостоятельный опыт без инициативы невозможен.
> Инициатива требует рамок в виде правового поля.

Рамок для кого для ИИ или для его создателей?

← →
kaif © (2007-12-14 17:35) [298]

Существуют автобаны, на которых нижний предел скорости более 100 км/ч.
Известно, что при таких скоростях вероятность аварий возрастает. Однако пропускная способность возрастает тоже. Общее число потерянных человеко-часов в результате аварий растет, но в результате высокой скорости относительный процент потерянных человеко-часов падает, если считать время, проведенное на автобане (а не на работе и не дома, в семье) потерянными человеко-часами.
Скажете безнравственно?
Но это так.
Не хочешь - не лезь на автобан.
Никто не заставляет.

Однако никто не рискнул бы подобые подходы применять в медицине. Я имею в виду увеличение пропускной способности больниц за счет роста вероятности летального исхода. Почему? Клятва Гиппократа - врач должен делать все для спасения жизни конкретного больного, а не человечества вообще.

Если в ИИ не заложить тонкие моральные нормы, то как он будет регулировать да хотя бы те же светофоры мегаполиса?

Получается, что моральные нормы так или иначе придется использовать и программировать извне. В результате получаем не более, чем автомат. Любой выход за пределы автомата-слуги требует самостоятельного осмысления моральных норм и противоречий. Даже в самых казалось бы банальных задачах. И ни одна из этих норм не абсолютна. Везде приходится решать и брать на себя ответственность. Чем-то или кем-то жертвовать. Ужасно, но факт.
Те, кто это понимает, знают, в чем причина религий.

Дело не в объяснении явлений природы.
Дело в оправдании жертвы.
Либо мы будем зверьми, либо мы придумаем себе богов. Третьего просто не дано. По крайней мере для тех, кто принимает соответствуюие решения, а не просто как ни в чем не бывало покупает уже разделанную курицу в магазине.

Зайдите в мясной отдел и задайте себе вопрос: кто дал нам право пожирать всю эту плоть? Вот эта котлета, которую я сейчас уплетаю, добыта мной в честной и справедливой охоте? У теленка был шанс спастись от моего меткого выстрела? Кто дал мне право его вырастить и слопать? Карл Маркс и Фридрих Энгельс? Гук или Гюйгенс? А почему бы не слопать ближнего своего? Где критерий?

Первое, что сделал бы ИИ, обладающий душой и всей полнотой картины мира, если мы не дай Бог его создадим - высказал бы нам все, что о нас думает и тут же покончил бы с собой.

← →
kaif © (2007-12-14 17:36) [299]

EvS © (14.12.07 17:33) [297]
Рамок для кого для ИИ или для его создателей?

Рамок для инициатив.

← →
EvS © (2007-12-14 17:43) [300]

> >Говорить, что возможен ИИ без самостоятельного опыта все
> равно, что
> заявлять, что можно выучиться классно водить авиалайнер
> на одном лишь
> тренажере.

Но ты же не будешь предоставлять ему для этого авиалайнер с пассажирами, и не отправишь бродить по улицам ставить эксперименты, какие только придут в его этот самый интеллект, в целях накопления опыта.

← →
EvS © (2007-12-14 17:52) [301]

>Говорить, что возможен ИИ без самостоятельного опыта
> все равно, что
> заявлять, что можно выучиться классно водить авиалайнер
> на одном лишь тренажере.

Кстати автопилоты довольно успешно справляются со своим делом без тренажеров, и без экспериментов над людьми.

← →
kaif © (2007-12-14 17:54) [302]

Человечество может существовать лишь благодаря тому, что каждый из нас заботится и думает в основном о себе. Иногда о ближнем. Но не дальше. Никто из присутствующих на этом форуме не поперхнется вечером, пожирая свой ужин, мыслью о том, что пока он жрал свой ужин, сетовал на Правительство и гордился торжеством науки и полетами в космос, сотня детей в мире банально умерла с голоду, не имея никаких шансов на помощь.

Если Иисус был Бог и мог видеть все, что происходит, одновременно, я не удивляюсь, что он предпочел, чтобы его распяли во искупление всего этого кошмара. Всего этого непотребства потребителей. Когда всякая скромность и самоограничение объявлены лузерством, а нежелание поделиться с обездоленными здравым смыслом.

Иногда мне кажется, что "Cup of poison" в том, как исполняет это Ян Гилан, звучит именно эта мысль... Иисус просит показать, что грядет, и, увидев, просит дать ему эту чашу яда.

ИИ не просто утопия.
ИИ - это надежда окончательно взбесившегося с жиру потребителя, который сам себе хочет доказать, что души не существует, и в результате - просто нечему гореть в аду.

Думаю, я уже похож на воинствующего христианского монаха.
:)

Не принимайте сильно в серьез...

← →
TwentyThird © (2007-12-14 17:55) [303]

>kaif © (14.12.07 17:35) [298] :
>Дело не в объяснении явлений природы.
Дело в оправдании жертвы.
Либо мы будем зверьми, либо мы придумаем себе богов. Третьего просто не
дано. По крайней мере для тех, кто принимает соответствуюие решения, а не
просто как ни в чем не бывало покупает уже разделанную курицу в магазине.

Ну, а Вы и я, персонально?
Как с Вами-то и со мной буквально обойтись?

Я, допустим, курицу разделанную в магазине и не покупаю - мне поставщик
везёт, весь из себя довольный (что поставщик).

I"m glad too (Я тоже доволен).

Отчего Вас, г.Ашот, так задело то, что я не покупаю убиенную курицу в торговом зале,
а покупаю ея прямо в зале, около палача? Свежую.

В одном из анекдотов про "новых русских", я вычитал, - Мужик заносит топор над курицей,
а она кукарекает, - Я ТЕБЯ ЗАПОМНИЛА, МУЖИК!

Возможно, что "курица" запомнила и меня, конкретно :)

Но куда той курице рассуждать о религии, об ИИ?

← →
EvS © (2007-12-14 18:00) [304]

> Зайдите в мясной отдел и задайте себе вопрос: кто дал нам
> право пожирать всю эту плоть?

Матушка-природа, которая сделала человека, способным эту плоть усваивать.

> Первое, что сделал бы ИИ, обладающий душой и всей полнотой
> картины мира, если мы не дай Бог его создадим - высказал
> бы нам все, что о нас думает и тут же покончил бы с собой.

Туда ему и дорога, на кой черт нужен такой недоумок.

← →
kaif © (2007-12-14 18:13) [305]

2 TwentyThird © (14.12.07 17:55) [303]
Да ничего меня не задело. Вы ошибаетесь. Я вообще не о Вас говорю и не о Ваших курицах.
Мне курицы вообще до фонаря. Курица - не птица.
Я вообще говорю.
О природе того в нас, что заставляет нас рассуждать об ИИ (настоящем).
Неужели мы так печемся о техническом прогрессе?
А может быть мы так беспокоимся о самопознании?
Не верю.
Здесь что-то иное.

Вера в то, что возможен ИИ, эквивалентна вере в то, что душа есть ничто иное, как кибернетический процесс в мозге.

И это чисто философский спор.

Я утверждаю, что ИИ будет изобретен. То есть будет изобретено нечто и названо ИИ. Так же, как автопилотом называется не искусственный пилот, ходящий в виртуальный сортир, а некоторый мудреный вариант ремешка, которым зафиксирован штурвал а то время, когда пилот отправляет нужду в сортире настоящем.

Но в то же время я утверждаю, что ИИ не сможет обладать никакой душой, никакими ощущениями и никакой моралью. Если только он не станет участником событий с собственной инициативой. Да и тогда сомневаюсь. Так как природа души нам не ясна и пока нет методологии позволяющей думать, что когда-нибудь будет ясна. В идеях типа "сознание есть мозговой процесс" смысла не больше, чем в идее одного знаменитого ученого грека о том, что "всякое бытие есть шар".

← →
kaif © (2007-12-14 18:16) [306]

EvS © (14.12.07 18:00) [304]
Матушка-природа позволила ему усваивать и плоть ближнего своего. Вы слышали что-нибудь о поварском искусстве коренных жителей Новой Зеландии?
Что, продукт вышел из моды?
С чего бы это?

← →
EvS © (2007-12-14 18:28) [307]

> Что, продукт вышел из моды?

Не напомнишь когда в средней полосе России была мода на этот продукт

← →
kaif © (2007-12-14 18:37) [308]

2 EvS © (14.12.07 18:28) [307]
У меня нет таких сведений.
Но бьюсь об заклад, что любой житель средней полосы легко переварит сей продукт и никак это не будет противоречить матушке-природе.
Я к тому что человек замечателен вовсе не тем, чем его наделила матушка-природа, а как раз всем тем, чем он матушке природе показал большую фигу. Матушка-природа не родила его с музыкальными инструментами в руках и даже не наделила от рождения знанием родного языка. Все, что составляет человека, есть плоды человеческой культуры. Даже пожирание жаренных бифштексов.

>kaif © (14.12.07 18:13) [305] :
>Вера в то, что возможен ИИ, эквивалентна вере в то, что душа есть ничто иное,
как кибернетический процесс в мозге.

Вы хотели сказать, - нечто?

На самом деле, ветка скатилась к скучным экономическим вопросам.
Совсем, как у князя Кропоткина, который стал революционером, будучи князем.

Модератор возьмёт, и закроет обсуждение...
Типа, не в тему (да и скукотища это:)

Напоследок, всем приверженцам искусственного интеллекта: а почему
Он (ИИ) до сих пор так и не был создан?

Древняя Греция, к примеру, создала массу ненужных никому вещей:
театр, классическую философию, логику, геометрию.

Но не ИИ.

Средневековая культура придумала гносеологию, математику, христианскую философию.

Но никак не ИИ.

Наука Нового времени создала квантовую механику, программирование, но почему-то
опять "забыла" об ИИ.

Такое впечатление, что ИИ -это некий пасынок от наук всех времён и народов.
Ну никто не хочет.
Никому нафиг (кроме фантастов, вроде Ст.Лема) не нужно...

И даже Рею Брэдбери (американскому поэту от фантастики) не нужно тоже.
Тот по-своему описывал будущее, упиваясь "Вином из одуванчиков"...

Без монстров.

kaif © (14.12.07 17:54) [302] :
> Если Иисус был Бог и мог видеть все, что происходит, одновременно, я не
удивляюсь, что он предпочел, чтобы его распяли во искупление всего этого
кошмара. Всего этого непотребства потребителей. Когда всякая скромность и
самоограничение объявлены лузерством, а нежелание поделиться с
обездоленными здравым смыслом.

Вы слишком драматизируете :)

Никто и не говорил, что жизнь - это "сахар".
Наоборот, - спросите любого священника, - он скажет, что жизнь -
это Крест, это Испытание, это по-своему, и Распятие!

Самым подходящим аргументом того, что Бог есть одновременно и человек,
служит Его создание - этот наш мир.
Со всеми его ошибками, со всем его бого-человеческим раздолбайством,
короче мир таков, а не иной, не супер-совершенный, не математически
выверенный, не просчитанный, а ошибочный, ущербный, непредсказуемый,
несчастный...

Так и следовало ожидать от Создателя, который (всё время помните!),
одновременно и Дух, и Отец, и Сын. Короче, человек, но в триедином моменте.

Бог тоже ошибается. Так же, как и всякий программист.
Но кто из программистов бросит в Него камень?

> TwentyThird © (14.12.07 21:38) [311]

Невежество - страшная сила.
http://lii.newmail.ru/based_ai.htm
Бравируя своим, вы играете на чужом. Это опасный путь.

Действительно, невежество - страшная сила:
http://lii.newmail.ru/based_ai.htm
Термин "алгоритм" происходит от имени узбекского математика Аль-Хорезми, который еще в IX веке предложил простейшие арифметические алгоритмы.
:)

А больше всего мне понравилось вот это:
Еще интересным замечанием здесь является то, что профессия программиста, исходя из наших определений, является одной из самых интеллектуальных, поскольку продуктом деятельности программиста являются программы — алгоритмы в чистом виде.

Неужели программы это "алгоритмы в чистом виде"?
Даже если бы это было так, неужели этого достаточно для того чтобы обозвать профессию программиста одной из "самых интеллектуальных"?

И что вообще мы имеем полезного от таких обзываний?

И честно говоря, выделение "интеллектуальных задач" мне кажется в этой статье весьма произвольным.

Если распознавание образов относить к "высокоинтеллектуальной деятельности" лишь на том основании, что эта задача оказалась весьма сложной для программистов, то окажется, что речная выдра "более интеллектуальна", чем слепой Гомер так как Гомер использовал интеллект время от времени, а речная выдра, распознающая визуальные объекты окружающей среды - постоянно занаята решением "интеллектуальнейшей" задачи.

Мне все же представляется, что ИИ есть некоторая договоренность, а не некоторая сущность.
Мы просто что-то договорились называть ИИ.
И нам нет дела до того, что intellectus у латинян означало "понимающий", а не "мыслящий" (cogitus). И что для слова "ум, разум" латиняне использовали слово mens. Отсюда - наше "ментальный" (мыслительный). Нам нет дела до того, будет ли ИИ обладать сознанием, и нет дела до того, что мы вообще под сознанием подразумеваем (conscientia - сознание).

Больше всего наше отношение к ИИ похоже на отношение коммунистов к коммунизму. Рано или поздно коммунизм победит - вот их кредо.
Рано или поздно ИИ будет создан - вот наше кредо.

Скорее всего ИИ такая же утопия, как и коммунизм.

То есть элементы ИИ возможны и будут иметь практическое употребление, точно так же как и элементы коммунизма используются в европейских кондоминиумах (объединениях жильцов), которые называются коммуннами в ряде стран, стратегически весьма далеких от идей строительства "всецело коммунистического общества".

Ища определение для ИИ, я склонен придавать больше значения термину "стратегия", а не слову "алгоритм". Если системы, использующие жесткий алгоритм, не кажутся нам шибко интеллектуальными, из этого еще никак не следует, что ИИ должен быть системой, способной "создавать алгоритмы".

ИИ должен просто уметь в каких-то сферах принимать разумные решения.

Вот и все.

А уж будет он для этого изобретать алгоритмы, находить хорошие рекомендации на форумах мировой сети, консультироваться со специалистами или пользоваться пророчествами из Священного Писания - это уже его собачье дело.

← →
Космос (2007-12-16 19:44) [316]

> kaif

Что-то Вас заносит ))
ИИ будет таким, каким мы его создадим. Если это будет не так, то это будет ошибка программиста, которую он сам и исправит. На человеческую душу никто посягать не собирается. Душа - это область чувственного, область чистого ощущения и знания без слов. Интеллект человека сплавлен с душой, поэтому обманчиво кажется, что это одно неделимое целое. Я уверен, чистый интеллект возможен. Это не утопия. ИИ - это суперпрограмма, которая будет свободно оперировать любой формализованной информацией, рыба в море информации. ИИ - это наш будущий собеседник и незаменимый помощник. Человеческий язык - это сложная знаковая система. Кто сказал, что нельзя создать другую систему, которая будет свободно оперировать языком? Думаю, что первые ИИ будут именно поисковыми системами и переводчиками. Кстати, по поводу самоосознания - была в пятницу по первому каналу передача "Закрытый показ", где показывали и обсуждали анимэ-фильм "Призрак в доспехах". Обсуждение мне не удалось посмотреть, но вот фильм весьма показательный. Он о том, как искусственный разум осознал себя живым и пошел по пути очеловечивания, т.е. модулировал чувства. Вот это, как раз, по-моему, уже фантастика. У системы сбора и обработки информации не может появится сама собой душа, чувства и страх смерти. Откуда? Очеловечивать ИИ - большая ошибка. Но, даже если не делать ее, остается весьма важный вопрос - давать ли ИИ возможность самоосознания? Я думаю, что стоит давать. Ничего страшного не будет, т.к. у ИИ не может быть страстей или страхов - он будет воспринимать себя как еще один элемент системы в своем мировоззренческом аппарате. (Конечно, если люди сами не начнуть взращивать в нем какие-то искусственные страсти и страхи.)

Насчет противоречий, с которыми столкнется ИИ, тут нет ничего страшного. И зачем обязательно нужен собственный опыт? ИИ - это система обработки информации. А приоритетность информации уже будет взвешиваться создателями (либо каким-то алгоритмами). Как люди оценивают истинность информации, если внешний опыт недоступен? Очень просто - либо доверяют авторитетному для них источнику, любо доверяют мнению большинства, либо делают какие-то собственные умозаключения (что весьма редко). ИИ будет поступать так же. Будет что-то ему непонятно, захочет узнать, правда ли то, что на Венере очень жарко, - спросит у своих создателей, произведет собственные расчеты или проведет опрос своих друзей в аське :) Если же какое-то противоречие разрешить не удается, то ИИ будет принимать все противоречащие друг другу части как рабочие гипотезы с разной вероятностью. И на вопрос "Существует ли Бог?" он ответит: "Многие говорят, что да, другие отрицают, а я не знаю." либо после долгих уточнений понятия выдаст: "Бог есть главный маг вселенной, всемогущество которого покоится на неприменении магии".

2 Космос (16.12.07 19:44) [316]

Вам видится ИИ как процессор текстов.
А мне - как система, способная принимать разумные решения.

Попытаюсь доказать, что я прав.

Возьмем шахматную программу. Если это хорошая шахматная программа, человеку, играющему с ней не просто кажется, что та принимает разумные решения. Она и в самом деле принимает их. Хотя ее алгоритм фиксирован - перебор вариантов. Так в чем тут дело? Неужели игра в шахматы есть род неинтеллектуального занятия? Сказав так, мы бы пришли в противоречие с имеющимся словоупотреблением, в котором принято игру в шахматы все же считать занятием интеллектуальным.

Просто для того чтобы решения были разумными очень важно, чтобы принимающий их мог предвидеть последствия своих решений. Если даже жесткий алгоритм (такой, как шахматная программа) путем тупого перебора демонстрирует способность предвосхищения последствий, мы склонны углядывать в этом разумность.

Мы считаем разумными действия правителя, который учитывал возможные последствия своих решений и считаем неразумными решения правителя, который пренебрегал анализом последствий и полагался лишь на "пророчества", "астрологию", "интуицию" или "чистый авось" или вздорный произвол и проиграл.

Мы называем поведение наших детей неразумным, если они не учитывают последствия своих поступков и решений. И наоборот, разумным, если они пытаются анализировать возможные последствия. Даже если эти решения и не были верными.

Таким образом, я дам первое, пока весьма туманное, определение разумности.

Разумность есть склонность анализировать все возможные последствия принятых решений.

Пойдем дальше.
Чемопытный шахматист отличается от неопытного? Тем, что опытный шахматист не просто перебирает всякий раз возможные ходы, но и способен отсекать ряд бесперспективных ходов, базируясь на том, что называется стратегией и тактикой. То есть опытный шахматист может оперировать некоторыми понятиями, позволяющими ему не делать глупых ходов, не перебирая всех вариантов.

Точно так же опытный в математике ученик не перебирает все возможные пути решения задачи, а сразу ограничивает поиск некоторыми направлениями, отсекая все заведомо бесперспективное. То есть опыт позволяет сократить перебор возможных вариантов. Здесь есть два разных механизма:
1. Выработка осмысленных стратегий. В этом случае человек способен объяснить, почему не стоит рассматривать какие-то варианты.
2. Выработка интуиции. В этом случае человек не способен объяснить, но он "чувствует", что данный путь нежелателен, на основании "своего прежнего опыта".

Какого ученика мы назовем более разумным? Того, что может объяснить или того, что объяснить не может? Мне кажется, что мы назовем более разумным того, кто может четко объяснить, почему те или иные пути решения не приведут к искомому результату.

Итак, я ввожу второе определение разумности:

Разумность есть способность уметь обосновывать свой отказ от решений, имеющих нежелательные последствия.

Как видно, здесь пока нет ничего, что требовало бы "нечеткой логики" или "метаалгоритма, плодящего алгоритмы".

Если мы пока не сумели создать ИИ на основе жесткой логики, это вовсе не означает, что его следует обязательно создавать на логике "нечеткой". Точно так же, как из того что великий Леонардо не смог подняться в воздух при помощи крыльев никак не следует, что будущие летательные аппараты не должны иметь крыльев по определению.

Продолжим исследование того, что мы в обычной жизни называем разумным и неразумным. Я хочу сейчас вывести специфическую проблему распознавания образов из рассмотрения. Если перцептрон демонстрирует удивительную способность что-то распознавать, это может кого-то впечатлять. Разумеется, перцептрону в его исходном виде далеко до речной выдры. Но дело не в этом. Дело в том, что никто из нас никогда не называл разумной саму способность распознавать изображения. Этой способностью обладает множество существ, далеких от интеллекта как такового. Поэтому те, кто полагает, что проблема распознавания имеет отношение к ИИ, просто склонны валить в одну кучу любые сложные задачи.

Скажу больше - способность распознавать печатный текст у собаки мы бы посчитали чудесным признаком разумности собаки, а ее способность узнавать хозяина мы не считаем признаком особой разумности. Однако в компьютерном мире задача распознавания текста решается гораздо проще, чем задача распознавания лиц, однако почему-то именно вторую задачу относят к задаче ИИ. Странно, не правда ли? Одним словом, существует путаница между задачами сложными и плохоформализованными с одной стороны и задачами, которые якобы являются чистой прерогативой ИИ - с другой. Скорее всего нейронные сети позволят эффективнее решать задачи распознавания образов, но это не значит, что таким образом мы приблизились к созданию ИИ.

Еще я хочу затронуть третий момент втом, что мы называем разумным.

Допустим кто-то, имевший возможность спросить совета у специалиста, решил действовать самостоятельно и принял ряд неверных решений. Назовем ли мы такого человека разумным?
Вот разумен ли правитель, который принимает закон, имеющий катастрофические последствия для экономики страны, если у него была возможность посовещаться с экономистами, но он этой возможностью пренебрег и теперь сам об этом жалеет? Или не жалеет...
А назовем ли мы разумным правителя, который вообще сам не принимает никаких решений сам, а лишь спрашивает советов у экономистов и слепо этим советам следует?

Очевидно, что мы не назовем разумным правителя, который не выслушивает мнения специалистов, но мы не назовем разумным и того правителя, который просто слепо делает то, что ему специалисты говорят.

А кого мы назовем разумным?
Лишь того, кто всегда выслушает специалистов, если есть такая возможность, но примет решения самостоятельно.

Таким образом, добавим третье определение разумности:
Разумность есть склонность совещаться со сведущими людьми, прежде чем принимать какие-то решения в областях, в которых имеешь мало собственного опыта.

В свете всего сказанного, как мне видится ИИ?

Мне видится ИИ как система, периодически проводящая совещания. Как система, которая чаще сама задает вопросы, чем отвечает на них. Как система, принимающая решения на основе анализа возможных последствий этих решений. И система, способная учиться на своих ошибках, когда какие-то последствия не сумела предвидеть или не посчитала нужным рассматривать.

И я не вижу пока никаких оснований утверждать, что такая система должна быть обязательно построена на нечетккой логике, нейронных сетях или уметь разрабатывать алгоритмы.

Немного влезу в тему.

>Возможно исследователями движет надежда на то, что наблюдая за процессами в человеческого мозгу в те моменты времени, когда тот мыслит, им удастся (сравнивая с процессами в мозгу обезьяны, которая решает ту же задачу иначе) выявить, в чем тут расхождение, но я, как программист и инженер, испытываю большой скепсис на этот счет.

Есть один очень интересный момент. Вероятно, далеко не все знают, что МР томографы относительно недавно научились выделять (вернее, специальный софт на основании функциональных программ) т.н. проводниковые пути - пути возбуждения, причем в реальном времени. Это уже гораздо менее "осциллограф на системной шине".

>Т.н. тесты придумали американцы, люди, как известно, недалекие, развивающие свою страну, лишь благодаря иммигрантам.

Странно, я всегда думал, что собственно американцы - (почти) все иммигранты. Какая-то нестыковка.

>Они помнят, что ели каждый день на протяжении многих лет, а один лепил из пластелина по памяти животных, которых он видел в зоопарке в детстве.

Замечу, что не только память, но и забывание - это фундаментальный механизм нашего мозга.

>Как, например, само неповторимое ощущение красного цвета (то, как он выглядит) принипиально невыводимо из длины его волны (630 нм).

Есть еще нюанс - некоторые виды (которые вообще различают цвета), видят вообще не так, как homo sapiens. Например, насекомые. Или те же мыши - диапазоны частот смещены. Уж как они их ощущают - вопрос отдельный.

>У меня вот по этой фразе ничего не возникло особого ничего, кроме вопроса - чего пишут и что значит плохо?

Контекст - очень важное свойство. Часто пишут "вы не в теме" хотя правильнее было бы говорить - "вы не в контексте".

Недавно заметил, что программы - переводчики наконец начали немного учитывать контекст текстов, хотя, пока не будет понимания смысла - мы массовых уволенний переводчиков не увидим.

Научится ли компьютер когда-либо переводить, например, шутки по-человечески, если и люди-то очень не многие их по-человечески могут перевести?

Если человек по-человечески шутку перевести не может - может он и не человек вовсе? Но умело маскирующийся бот? ;)

← →
имя (2007-12-17 06:59) [320]

Удалено модератором

Проблема ИИ Найти похожие ветки