Проблема ИИ

← →
kaif © (2007-11-27 20:18) [40]

2 DiamondShark ©

Тебя включать в сборник?

← →
DiamondShark © (2007-11-27 20:28) [41]

> kaif © (27.11.07 20:18) [40]
> 2 DiamondShark ©
>
> Тебя включать в сборник?

По желанию. Принципиальных возражений нет.

Но мне гораздо интереснее, как ты последуешь собственному принципу:

> Философия есть лишь скромная любовь к истине.
> Начинающаяся с того, что человек привыкает задаваться вопросом
> "а что конкретно я имею в виду, говоря...?"

Итак, что ты конкретно имеешь в виду, говоря "истина"?

← →
TwentyThird © (2007-11-27 20:30) [42]

В каком-то смысле идея создания ИИ сродна попыткам средневековых алхимиков.
В те времена сама возможность создания золота из ртути казалась верхом
удачи и конечной целью средневекового знания.

Если сегодня спросить современного физика, - А можно ли создать золото
из ртути, - он ответит, - конечно. Это можно сделать на современном ускорителе.

Но это золото будет настолько дорогим, что непонятно, какую выгоду
получат его создатели, действующие по средневековым экономическим рецептам.

Такое золото невозможно будет продать. Его цена будет определяться не
степенью рассеянного по Земле естесственно элемента, а колоссальными
затратами энергии, эксплуатациями установок, работами коллективов и теми
мизерными количествами радиоактивного изотопа цена которого превысит
и нептуний, и радий.

Кому нужно золото, которое невозможно продать потому, что оно (искусственное)
в тысячи раз дороже естесственного?

← →
shlst (2007-11-27 20:31) [43]

получается истина это максимальная осознанность в момент говорения :)
но что такое желание узнать "что конкретно говоришь"? почему оно возникает?

← →
DiamondShark © (2007-11-27 20:34) [44]

> Кому нужно золото, которое невозможно продать потому, что
> оно (искусственное)
> в тысячи раз дороже естесственного?

Нужно не золото, а ускоритель.
Аналогию дальше сами додумаете?

← →
TwentyThird © (2007-11-27 20:45) [45]

Также и современные попытки создания современного мозга (или моделирования
уже имеющегося интеллекта).

А зачем?

Опять повторяюсь, уж извините, но понятно же, что создать естесственный
интеллект в союзе мужчины и женщины и проще, и приятнее...

А вот, чтобы создать не искусственный, человеческий, а новый,
нечеловеческий, хотите, машинный, хотите, инопланетный, хотите, хоть какой ---
нужны две вещи: сначала надо в рамках своего интеллекта досконально разобраться,
что это такое: а это принципиально невозможно.
(Не буду напоминать про остчертевшую уже всем теорему).

И потом, поняв вполне про устройство "своих" часов в рамках их механических шестеренок
и пружинок создать часы совсем не похожие (типа жидко-кристаллические).

Последнее невозможно тоже. Потому, что механика никогда (хоть вся изогнувшись в остроумии)
не родит химию. Неподвластно механике понять, что такое спин и валентность.
Неподвластно механическим шестеренкам родить LCD-циферблат. И микросхему,
им управляющую.

Диалектика не зря предупреждает о необходимости качественного перехода.

ИИ - это философский камень современной науки.

← →
некий аноним © (2007-11-27 21:08) [46]

> А проблема ИИ, как мне кажется, если и существует на данный момент,
> то не в ИИ как таковом, а в ограниченности наших возможностей в
> описании работы мозга человека.
С этим соглашусь, только использую другие иллюстрации.

Не известно какими нейронными структурами и как мозг моделирует объекты.

Так же не известно что с этими моделями происходит в дальнейшем (например в случаях: модель подтвердилась полностью, подтвердилась частично, нашлась ситуация в которой модель не работает), как они конкурируют друг с другом, дополняют друг друга, эволюционируют.

Т.е. именно те вопросы ответы на которые очень бы пригодились для реализации модели мозга и построения ИИ

И энцефалография (как анализ суммарной электрической активности), боюсь, здесь малоперспективна.

Грубая аналогия: известны суммарные температура и пульс по больнице, и надо ответить сколько там отделений, сколько пациентов в каждом и каковы их состояния.

///////////////////
> TwentyThird © (27.11.07 18:58) [33]
> Содержание книги, телепередачи, является (обладает) информацией?
> Да.
> Но разве кто-нибудь кроме мыслящего человека (там, скажем,
> объективная и неодухотворенная Природа) сможет уловить хоть какой-то
> смысл в романе, в стихотворении, в репортаже о футбольном
> матче "Россия-Великобритания"?
> Не смотря на то, что, конечно, уловит и потоотделение взволнованного
> человека, и его акустически измеримые возгласы...(эпифеномены)

пока ИИ не создан не понятно как можно судить о том что он сможет, а что нет

> Таким образом, информация, содержащаяся в указанных проявлениях
> совершенно субъективна.
не информация субъективна, а ее восприятие разными "натуральными интеллектами"

> Т.е. она существует конечно, но вне рамок объективного мира.
Неужели? И объекты реального мира "черпают" ее конечно бесспорно несомненно из какого-то "астрала"?

> С другой стороны: информация, заложенная, например, в клетках, в ДНК
> по-своему объективна, независима от сознания растений, инфузорий и
> пыльцы, которые воспринимают ея вполне, давно и успешно.
Это что?
Субъективное философское восприятие открытий сделанных биологами?

Если уж проводить сравнения, то можно например, сказать и так:
"Ветер" является (обладает) информацией?
Да.
Под действием ветра разные экземпляры растений совершают разные движения.
Т.о. разные дуновения ветра - как статьи, романы, стихотворения для человека - субъективны с точки зрения растения!

И разве какой-нибудь мыслящий кабан (человек) весом под 10 пудов (там, скажем, объективная и одухотворенная Природа) сможет уловить хоть какой-то смысл в дуновении ветра, от которого он не может шелохнуться ни разу?

Не смотря на то, что, конечно, уловит и направление перемещения воздушной массы, почуствует измеримые скорость и влажность потока (эпифеномены)

> Нет уж, как не скажите, а без философии тут не обойтись!
Вот я никогда не мог этого понять и сейчас не понимаю - как это САМОМУ не понимать КАКУЮ АХУНЕЮ ТЫ НЕСЕШЬ? И при этом бредить что ты что-то доказываешь или опровергаешь?

И подобный абсурдный пустопорожний треп (если не сказать бред) (философия) все еще претендует на что-то? На звание науки?! На возможность решать какие-то задачи?!!

> потому, что согласитесь, - спора гриба ничего прочитать не умеет
а вот с этим я соглашусь!

← →
TwentyThird © (2007-11-27 21:36) [47]

>некий аноним © (27.11.07 21:08) [46] :
>> Таким образом, информация, содержащаяся в указанных проявлениях
>> совершенно субъективна.

не информация субъективна, а ее восприятие разными "натуральными
интеллектами"

>> Т.е. она существует конечно, но вне рамок объективного мира.
Неужели? И объекты реального мира "черпают" ее конечно бесспорно

Нет. Вы, к сожалению, не совсем поняли:
Вот представьте, есть книга стихов.
Она информативна. Она обладает информацией.
Есть ея пользователи, читатели на Земле.

Теперь, давайте представим себе, что все жители Земли (пользователи)
вдруг вымерли?

Информация в книге осталась?

Если "да", значит она существует вне объективного мира.
Объективных читателей уже нет...

(То же, если просто любую книгу закинуть Вояджером на Юпитер:)

Если "нет", значит тем более, информация требует субъективного внимания.
Иначе как бы, "выдыхается" ...

Обратите внимание: понятие информации не очень сильно (чуть-чуть,
почти эстетически) изменилось с 40-х годов, когда в основополагающих
работах именно физиков стало связанным с термодинамикой.
Вот на это и нужно ориентироваться.

Изменилась декорация. Это и загадочный как бы "процессор".
Процессор затмит разум и волю любого из посторонних юзеров.
Но не здесь.

Здесь, к сожалению, волю программистов затмевает незнание формулы
Больцмана о том, что информация - это негатив к беспорядку.

И на Юпитере, уверяю Вас, формула Больцмана работает.

Там просто нет ИИ :)

← →
TwentyThird © (2007-11-27 21:57) [48]

Напоследок повторю удивительную фразу.
Фразу, которую я не мог найти ни у Сервантеса, ни у Паскаля,
ни у Достоевского.

Эта фраза очень современного режиссера, она именно об ИИ.

Это из "Соляриса", Андрея Тарковского:

"Человеку нужен человек"!

Ему не нужен мыслящий Океан, привидения, чудики и страхи.
Ему даже не нужны инопланетяне.

Мы не ищем во Вселенной соседей, - говорил Крис Кельвин, -
мы ищем себя, своё отражение...

Пусть хотя бы Андрей Тарковский, наконец, расстолкует программистам
чего им нужно :)

← →
DiamondShark © (2007-11-27 22:20) [49]

> Информация в книге осталась?

Вопрос неявно содержит необоснованное утверждение, которое отвечающий принуждается принять, независимо от ответа.

С такой дешёвой демагогией отправляйтесь в детский сад, озадачивать малышей вопросами вроде "Куда девается ток, когда выключают лампочку?"

← →
TwentyThird © (2007-11-27 22:29) [50]

>DiamondShark © (27.11.07 22:20) [49] :
>Вопрос неявно содержит необоснованное утверждение, которое отвечающий
принуждается принять, независимо от ответа.

Почему необоснованное?
Набор печатных знаков на странице, доступный читателю?
Без читателя, что уже недоступен никому?

Вы, DS, всегда были как бы материалистом.
Вот"c хаппенед в Вашем Киндер-гардене?

← →
Джо © (2007-11-27 22:30) [51]

> [50] TwentyThird © (27.11.07 22:29)
> Набор печатных знаков на странице, доступный читателю?

Да.

← →
Джо © (2007-11-27 22:31) [52]

> [51] Джо © (27.11.07 22:30)
> Да.

То есть, на
>> Без читателя, что уже недоступен никому?

← →
некий аноним © (2007-11-27 22:34) [53]

> Нет. Вы, к сожалению, не совсем поняли:
> Вот представьте, есть книга стихов.
> Она информативна. Она обладает информацией.
> Есть ея пользователи, читатели на Земле.

> Теперь, давайте представим себе, что все жители Земли (пользователи)
> вдруг вымерли?

> Информация в книге осталась?

> Если "да", значит она существует вне объективного мира.
> Объективных читателей уже нет...

А и представлять не надо!

Вот были в древности цивилизации, народы.
Инки, ацтеки, кельты - не буду перечислять.

У некоторых из них была "письменность", были "письменные" "документы".

Для них они были информативны. Они обладали информацией для них.
Были "еих" пользователи, читатели на Земле.

Цивилизации исчезли, исчезли и некоторые народы.
"Все члены некоторых тех цивилизаций (пользователи) вдруг вымерли"

От некоторых цивилизаций до нас дошли "письменные" источники.
Глиняные таблички, диски, колонны, покрытые забавными значками...

> Информация в них осталась?

Да осталась, иногда восстанавливают письменности народов и её прочитывают.

И при этом она существует в объективном мире.

Хотя, "объективных" читателей уже нет...

> Если "да", значит она существует вне объективного мира.
> Объективных читателей уже нет...

То же самое можно говорить и о любой шифрограмме (зашифрованном сообщении) перехваченной противником - если он не может вскрыть шифр, нет у него "объективных" читателей.

Значит и информации в этой шифрограмме нет? Или она "существует вне объективного мира", т.е. не существует в объективном мире? Значит всех криптографов разогнать немедленно! Занимаются тем, чего не существует?
Информация-то "выдохлась" пока они там "в носу ковырялись"!

Именно это я и говорил: абсурдные категории и абсурдные выводы.
Смутные фразы: "значит тем более, информация требует субъективного внимания". Здесь что-то утверждается?
И это наука?

Уж не обижайтесь "субъективно" за резкость ...

← →
TwentyThird © (2007-11-27 22:41) [54]

>Уж не обижайтесь "субъективно" за резкость ...

И не подумаю обижаться.
Вы путаете разум и его частное проявление - лингвистику.

Я не имел ввиду, что вымерли лишь ацтеки.
На их историю найдутся охотники, но из числа разумных людей.

А вот, когда вымерли ВСЕ разумные.
Как камни прочитают манускрипты?

Или пришельцев будете ждать?

Да ладно, Вы, похоже, с логикой не дружите.

Вот Вам вопрос про объективность информации:
Я напишу записку и закопаю так, чтобы прочитать никто не смог.
В записке, которую никто никогда не прочитает, есть информация?

← →
некий аноним © (2007-11-27 22:42) [55]

> С такой дешёвой демагогией отправляйтесь в детский сад, озадачивать
> малышей вопросами вроде "Куда девается ток, когда выключают
> лампочку?"

Да, иногда меня заносит, продолжаю быть предметным, когда надо просто использовать простой и изящный образ.

Разумеется согласен с постом: DiamondShark © (27.11.07 22:20) [49]!
:)

← →
TwentyThird © (2007-11-27 22:48) [56]

>некий аноним © (27.11.07 22:42) [55] :

Ну, похоже, Вас хватает только на "изящную словесность" :)

← →
DiamondShark © (2007-11-27 22:49) [57]

> TwentyThird © (27.11.07 22:29) [50]
>
> Почему необоснованное?

По причине отсутствия обоснования, почему же ищо.

> Набор печатных знаков на странице, доступный читателю?
> Без читателя, что уже недоступен никому?

Да не, не валяйте дурака. Неявная посылка совсем другая.
У Вас независимо от варианта ответа полагается, что информация "содержится" как вода в бутылке.

А информация -- не субстанция.

Поэтому единственный возможный ответ на вопрос ни "да", ни "нет", а "не имеет смысла".

> Вы, DS, всегда были как бы материалистом.

Как бы был, и даже как бы остался. Именно поэтому субстанциальность информации мне не удастся подсунуть ни под каким соусом.

← →
некий аноним © (2007-11-27 22:49) [58]

> Вот Вам вопрос про объективность информации:
> Я напишу записку и закопаю так, чтобы прочитать никто не смог.
> В записке, которую никто никогда не прочитает, есть информация?

А вот вам вопрос: объект которого вы не видите и никогда не увидите, например монитор передо мной - есть? Cуществует?

//////
Знаете, я на самом деле очень занятый человек, поэтому достаточно редко бываю на форуме, и толочь воду - очень большая и ненужная мне роскошь ...

← →
TwentyThird © (2007-11-27 22:53) [59]

В этой конфе есть куча веток, которых те или иные пользователи
не читали вовсе.

Значит и веток не было!
Так что ли?

Солипсизм (крайняя форма субъективного идеализма) какой-то!

DS удивил. От души!
Про лампочку-то, Ильича! С током...

← →
некий аноним © (2007-11-27 22:55) [60]

В "догонку".

Вы, кстати не пробовали доказывать теорему Ферма элементарными средствами?

Если нет - попробуйте!

У вас должно получиться!

← →
TwentyThird © (2007-11-27 22:59) [61]

>DiamondShark © (27.11.07 22:49) [57] :

Вот видите, ув.DS, как Вы тихо и плавно подошли к проблеме
решения философских вопросов?

А зачем Кайфа ругали? Нечестно это...

← →
DiamondShark © (2007-11-27 23:02) [62]

> TwentyThird © (27.11.07 22:59) [61]

А чего тут философского? Вопрос элементарной "терминологической гигиены".

← →
TwentyThird © (2007-11-27 23:11) [63]

Рано или поздно всякий человек, решивший посвятить себя не лишь
добыванию "хлеба насущного", но и абстрактным задачам сталкивается
с философией и с математикой.

О пользе математики здесь говорить избыточно. И так все знают.
Но о том, что философия - это типа математика, но не в формулах,
а в порядке мышления, в его организованности...

Фундаментальные науки пекутся о пользе теоретического знания (физика,
химия, биология).
Науки прикладные (электротехника, оптика или медицина) о пользе
сиюминутной, доступной практики, зависящей от теории.

Есть много "наук" (история, политика, социология), которые
радеют о человеках, об обществе, но делают это неумело, поскольку
науками не являются (не описываемы в рамках математики).

Есть только две науки, которые по меткому выражению "могут рассуждать
лишь о самой себе" - это математика и философия. Две яркие стороны
материализма и идеализма.

Ни та, ни другая не нуждаются в каком-либо внешнем опыте.

← →
kaif © (2007-11-28 00:17) [64]

2 DiamondShark © (27.11.07 20:28) [41]

> Философия есть лишь скромная любовь к истине.
> Начинающаяся с того, что человек привыкает задаваться вопросом
> "а что конкретно я имею в виду, говоря...?"

Итак, что ты конкретно имеешь в виду, говоря "истина"?
Я знаю, что я имею в виду, говоря "скромная любовь к истине".

← →
Думкин © (2007-11-28 06:27) [65]

Хм. Космос ушел, пришла бездна. Вернемся.

>Пусть материалист сначала сформулирует то, что он собирается моделировать
Если внимательно присмотреться к тому, что говорит этот самый матеиалист, то можно заметить что он ровным счетом ничего моделировать пока не собирается. Поэтому к чему такое многое в буквах - ему не понятно.
Философия любовь к мудрости, а не к мудрствованиями на пустом месте. Огромное число людей считает иначе. По факту - они правы. И пинают не философию, а то во что она морфируется тяжким трудом ораторов и шарлатанов. Я все-таки опять советую прочитать книгу Сокала на которую давал ссылку. Можно не ее. Сейчас в сети есть некоторое количество "философских" книг с разбором специалистами в той области, в которой пытаются философствовать авторы. Например, книги Монро или Грофа. Грофа упоминал - "За пределами мозга". Вот из рецензии:

Вот сколько раз в тексте использовались некоторые слова (с разными окончаниями): феноменальный 31 революционное 13 замечательные 8 потрясающие 6 коренной 7 великий 11 поразительный 10 исчерпывающий 12 значительный 13 удивительный 16 экстраординарный 6 серьезный 33 важный 49 глубокий 28 современный 65 реальность 95 научный 250 и всего лишь: бессознательное 13 нейрофизиологический 3 нейронный 3 психическое 4 но психоделики 60 Итак, Гроф обосновывает утверждение, что наука - это всего лишь вера, что она не отличается от художественной литературы, что вообще познание объективной реальности невозможно . В конце - вывод о возможности мыслью воздействовать на реальность. При этом допускаются подтасовки, например эта, эта, эта, эта, эта, эта, эта, эта, эта, эта, эта, эта, эта, эта, эта и просто необоснованные и неожиданные утверждения, например это, это, это. Общим является объявление несостоятельности науки, ее бесполезность. Попутно Гроф демонстрирует непонимание многих философских и научных терминов, например это, это и понятий, например, это, это. При этом Гроф сам плохо разбирается в методологии науки, например так, так. Плохо он разбирается во многих научных сведениях, о которых берется рассуждать: здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь, здесь. Он часто не скрывает неприязнь к науке, например, здесь, здесь, здесь, здесь, здесь. Гроф описывает фантастические переживания, утверждая достоверность и объективность (трансперсональность) такого опыта, который можно использовать для получения любой информации Вселенной ( и здесь о том же и здесь ). Он утверждает, что нет других, кроме трасперсональных объяснений этому и что сам проверял истиность увиденных испытуемым сцен внутриутробной жизни и жизни на клеточном уровне, а так же в прошлых жизнях. Что достоверны любые переживания, даже в образе растения или атома или даже мифологических образах и сюжетах. Гроф солидарен с Хабардом. Он в своих высказываниях часто напрямую утверждает субъективный идеализм: здесь, здесь, здесь, здесь. Несмотря на то, что Гроф психолог, он приводит вульгарные аналогии: такую и такую.

С сайта http://www.scorcher.ru точную ссылку дать не могу сейчас. Гугль в помощь.

>А если серьёзно, то описывать поведение мозга, как "черного ящика" -
это никуда не годится!
>И энцефалография (как анализ суммарной электрической активности), боюсь, здесь малоперспективна.
Я писал не о том, что это принесет результаты или в этом направлении будут успехи. Я писал о том, что в поджобном подходе мы уже сейчас видим серьезные трудности. Принципиальные. Ровно те например, о которых писал фон-Нейман в своей книге "Теория игр и экономическое поведение" или которые рассматриваются в "теории хаоса".
То есть я не утверждаю, что это путь, который откроет нам мозг. Но все-таки переводит область сложности из уровня бла-бла-бла, в четкий уровень доступный исследованию. По сути математика, не так давно оказалась способной для работы с такими сложными вещами. Направления для исследований есть. А это главное, я считаю. Дпа и так ли уж важно устройство? Никто не бывл в Солнце, но при этом мы можем говорить о его поведении.

Грубая аналогия: известны суммарные температура и пульс по больнице, и надо ответить сколько там отделений, сколько пациентов в каждом и каковы их состояния
То что я писал, к этой аналогии и рядом не лежит. Мы не узнаЕм что там. Безусловно, при некоторой дополнительной информации можно задаться и такими вопросами. Но я об этом не говорил. У того, что описал - проблем еще очень много - по сути начало пути. Но уже то, что есть может внушать определенный оптимизм для дальнейших исследований. В целом согласен с некий аноним © . Собственно у нас разногласий и в "той" ветке не возникло, насколько могу судить.

← →
DiamondShark © (2007-11-28 08:42) [66]

> kaif © (28.11.07 00:17) [64]
>> Итак, что ты конкретно имеешь в виду, говоря "истина"?
> Я знаю, что я имею в виду, говоря "скромная любовь к истине".

Излагай.
Хоть это немножко не то, о чём спрашивалось, но чем чёрт не шутит, может "скромная любовь к истине" -- это как морская свинка: никакого отношения ни к морю, ни к свиньям. Может и тут "истина" совершенно ни при чём.

← →
oldman © (2007-11-28 09:03) [67]

> TwentyThird © (27.11.07 23:11) [63]
> Есть много "наук" (история, политика, социология), которые
> радеют о человеках, об обществе, но делают это неумело,
> поскольку
> науками не являются (не описываемы в рамках математики).
> Есть только две науки, которые по меткому выражению "могут
> рассуждать
> лишь о самой себе" - это математика и философия. Две яркие
> стороны
> материализма и идеализма.
> Ни та, ни другая не нуждаются в каком-либо внешнем опыте.
>

Никому больше этот бред не рассказывай.

← →
kaif (2007-11-28 16:41) [68]

2 Думкин
Философия любовь к мудрости, а не к мудрствованиями на пустом месте.

Против этого я бы разве стал спорить?
Но ты дал иное определение. Что-то вроде "последнее прибежище..."
При этом как раз ты и поставил этим самым знак равенства между любовью к мудрости, влекущей людей к исследованиям, и пустым мудрствованием, которым многие с успехом для себя заменяют всякое иссследование.
Философия как традиция постараться что-то рассмотреть прежде умозрительно, нежели эмпирически (насколько это возможно, разумеется) привела того же Ньютона к его математическим основам натурфилософии.
Что было бы, не будь Ньютон метафизиком, а будь он голым позитивистом, принимающим одни лишь "факты реальности", "статистику опыта" и отрицающим всякое умозрительное рассуждение? Мы бы не имели ввобще никакой теории в естествознании, а лишь классификации опыта, не более того.

В твоем сказанном у меня вызывает сомнение не твое отношение к философии. Действительно, что плохого в том, чтобы окрепшие и окончившие колледж детки плевали в собственнеую мать, невежественную, хотя и с большим добрым сердцем? Ту, которая их родила и научила любить знания... Так и не сумев сама отделаться от своей наивной веры в высшую справедливость и суд богов...

Сомнение у меня вызвали твои разговоры о будущем моделировании интуиции.

Так как сдесь я вижу проблему. И проблему совершенно иного рода, чем реализация этой самой интуиции. И я уже ее озвучивал. Это проблема рациональной обоснованности решений ИИ.

А ты даже не удосужившись хоть как-то определить то, что имеешь в виду под "интуицией" уже спешишь заверить, что будущее исследование и создание ИИ прольет свет на то, что это такое так, будто бы это быдло некое самоочевидное для всех явление, не нуждающееся в определении (как, например, рвота или головокружение).

Вот как по-твоему, какой врач лучше?
Тот, который в принципе не может внятно объяснить, как он ставит диагноз, но интуиция которого настолько сильна, что он в 90% случаев не ошиается, или врач, который всегда может убедительным образом мотивировать свое решение, но ошибающийся в 20% случаев? Однако ошибки второго позволяют развивать медицинскую науку, так как эти ошибки обогащают наш коллективный опыт, в отличие от ошибок первого, которые нам ничего вообще не говорят...

Вот какой ИИ нам нужен?
Нам нужен эквивалент гадалки с острой интуицией?
А ведь именно по этому пути идут так называемые нейронные системы. В сфере тех же биржевых автоматизаций принятия решений.

Так нам нужен оракул или брат по разуму?
Этот вопрос далеко выходит за рамки ИИ.
Так как точно этот вопрос звучит миллионами способов в других сферах. Что важнее, сиюминутное халявное благо, или осмысленное будущее благополучие?
Что важнее, успешность политика или осмысленность его программы для нас?

А это все - философские вопросы.
Так как не существует экспериментальных методов познания для таких категорий, как хорошо и плохо.

← →
kaif (2007-11-28 17:47) [69]

На самом деле ИИ уже действует в целом ряде сфер. Например, в биржевом деле. Я задаю такой вопрос: существуют ли стратегии, которые этот ИИ способен нащупывать, но от реализации которых отказался бы приличный биржевой игрок?
Как ни странно, но отношение к этому вопросу сильно зависит от мировоззрения рассуждающих о нем.
Возьмем группу кантианцев и группу марксистов (по своим философским убеждениям).

Кантианцы скорее всего будут придерживаться такой точки зрения: существуют негодяи, но их мало и их поведение скорее определяется недостаточной разумностью этих людей. Если какой-то негодяй затеет такую игру с котировками на бирже, которая принесет ему неслыханные деньги ценой внезапного голода в целой стране или провокации войны между двумя странами, то такое, хотя и невозможно до конца исключить, но тем не менее, не следует исходить из того, что все именно так и будут поступать. Существует, кроме чистогана, еще и доброе имя, без которого невозможно никакое счастье для человеков, и действующий подобным образом ведет себя неразумно, как дикарь.

Марксисты же будут придерживаться иной точки зрения: любой биржевой игрок негодяй по определению, так как не существует преступления, на которое не пошел бы капитал, если речь идет о 1000% прибыли (К.Маркс). Марксисты полагают, что поведение человека детерминировано исключительно его классовыми интересами и на бирже такие интересы суть шкурные.

Итак, с точки зрения марксиста нет никакой разницы между сознательным негодяем и честным биржевым игроком, который по совету нейронного оракула (без объяснения подробностей стратегии) принимает решение "действуем!", если тот выдал прогноз 1000% прибыли с вероятностью 90%, никак это не мотивируя и не предупреждая о "побочных эффектах" в виде голода или войны, а лишь демонстрируя непогрешимое осуществление почти всех своих финансовых прогнозов с момента инсталляции (авторитетный нейронный эксперт).

А вот с точки зрения кантинца разница все-таки существует. Немаловажно то, сообщает система весь план, показывает ли рационально, на чем он базирован, и откуда возьмется такое чудо - 1000%, за счет чего и какой ценой. Или же это будет интуиция машины, которой игрок просто доверился, не задавая лишних вопросов.

С точки зрения кантианца поведение игрока, доверяющего машине, неразумно, если он не в состоянии сам воспроизвести подробности стратегии и возможные последствия своих действий. А с точки зрения марксиста такое поведение разумно, так как марксист полагает, что всякое эффективное поведение разумно по определению, а у биржевых игроков не может существовать иных интересов, крооме шкурных, в силу своей классовой принадлежности.

Если будет поставлен вопрос ребром, как нам решать подобную проблему и предложено два пути:

1. Потребовать от ИИ излагать найденные стратегии понятным образом, оставить ответственность на игроке
2. Ввести некоторые опции, чисто технически мешающие ИИ использовать методы из некоторого (всегда неполного) списка: "провокация войны", "создание голода", "вызов искусственной эпидемии" и т.п.

то кантианцы будукт голосовать за первый вариант, а марксисты - за второй.
Обратим внимание, что обе группы преследуют одинакову благую цель - не допущение реализации подобных стратегий на практике.

← →
kaif (2007-11-28 18:02) [70]

Я еще неделю назад был уверен, что не буду голосовать на выборах, так как не осталось ни одной партии, представляющей мои интересы из числа тех, кто может вообще пройти барьер.
Однако в какой-то момент я понял, что я имею в виду под голосованием, и это изменило мое решение.
Есть два способа к этому относиться:
1. Голосовать за тех, кто в случае победы обеспечил бы мои интересы лучше, чем прочие.
2. Голосовать за программу, которая представляется разумной, невзирая на расклад сил.

Я понял, что второй способ голосования подает сигнал о моих действительных предпочтениях любой победившей партии. А первый способ голосовапния вообще никакого информативного сигнала не подает, кроме того, что для людей важнее избежать заведомого большого зла, ради которого можно мириться и со злом малым. Что в принципе и так тривиально.

← →
kaif (2007-11-28 18:07) [71]

То есть если бы люди голосовали, невзирая на расклад сил, то выборы демонстрировали отношение людей к тем или иным программам. Но так как люди голосуют иначе, главным принципом борьбы за избирателя становится демонстрация силы уже существующей властью.
Получается, что если бы мы голосовали просто за программы, у власти пропало бы искушение демонстрировать силу. Даже если бы все программы у всех партий были априори липовыми.
Получается, что важны не столько наши действия, сколько их мотивы.
Интересно, откуда ИИ возьмет себе мотивы, если он не будет антропоморфен?

← →
kaif (2007-11-28 18:22) [72]

Вернемся к голосованию кантианцев и марксистов.
Допустим победили марксисты с такой формулировкой:
1. ИИ биржевого эксперта должен содержать ряд встроенных опций, препятствующих нанесению случайного глобального вреда человечеству. Ответственность за реализацию надежного механизма защиты лежит на разработчике.

А допустим победили кантианцы с такой формулировкой:
2. ИИ биржевого эксперта должен быть устроен таким образом, чтобы излагать свои рекомендации на понятном игроку языке, доказывая приемлемость тех или иных решений, и демонстрируя возможные последствия и сами фишки (ноу-хау) найденных стратегий в чем сосоят и чем таким особенным отличаются от стандартных и всем известных способов делать деньги. ИИ остается инструментом игрока и вся ответственность за принятые решения (правовая и моральная) продолжает оставаться на игроке.

А теперь вопрос.
За разработку какой системы вы бы сами с охотой взялись?
И при ком быстрее будет развиваться ИИ на ваш взгяд?
При марксистах или кантианцах?

Айзек Азимов, помнится, пошел по первому, хотя это не совсем верная аналогия.

> Думкин © (27.11.07 08:33) [19]

+ кстати, Ф.Крик, "Жизнь, как она есть", хотя большинство сегодня не согласны с выводами о панспермии, которые приведены у Крика, да и у Еськова.

Но Еськов - вещь, это факт.

← →
kaif (2007-11-28 18:51) [75]

Допустим вы - член экспедиции в далекой Африке. В группе есть врач, который не знает, как лечить конкретно эту вот загадочную лихорадку, но в общих чертах знает, что при лихорадках нужен покой телу и большое количество жидкости. И есть местный шаман - спец по данной лихорадке. Все племя уговароивает вас довериться шаману. Вы должны исполнять утомительный танец по изгнанию злого духа на протяжении целой недели по утрам, не употребяя ни пищи, ни воды. Врач смотрит на эту методу крайне скептически.
И вот у вас на глазах шаман излечивает одного из селян, заболевшего с точно такими симптомами.

Ваше решение.

> TwentyThird © (27.11.07 18:58) [33]

Да, сегодня изучение мозга во многом напоминает изучение работы трансформатора по издаваемым звукам. Это не значит, что в изучении работы трансформатора может помочь философия.

Если уж честно, то закрылись бы эти все философы в черном ящике, и филосовствовали бы там себе. Т.к. философия (вся) есть словоблудие. Точка.

← →
kaif (2007-11-28 18:58) [77]

Вера в науку не имеет ничего общего с рациональным выбором.
Если речь будет идти о вас самих, возможно вы откажетесь от услуг шамана, а если речь будет идти о вашем ребенке?

Поэтому я и завожу разговор в этом русле.
Дело в том, что в практической сфере (в отличие от науки) существует множество решений одной и той же задачи. Вера в науку предполагает единственно правильное решение в данной ситуации. Неважно какое, но единственно правильное. А жизнь и будущее взаимодействие с ИИ выбивает у нас из рук этот козырь.

У нас будет выбор не между ученым и колдуном, а между живым ученым и ученой машиной, которую создал другой ученый, которая, хотя и ничем в данной ситуации не отличается от колдуна, но ее решение уже имеет статус научно-обоснованного продукта.

← →
kaif (2007-11-28 19:00) [78]

В чем разница между мутной и напрозрачной в своих выводах самообучающейся нейронной сетью с интуицией и шаманом в состоянии транса?

kaif © (27.11.07 19:48) [37]
Философия есть лишь скромная любовь к истине.
Начинающаяся с того, что человек привыкает задаваться вопросом "а что конкретно я имею в виду, говоря...?"

Возьмем оптимистов из лагеря материалистов.
Я имею в виду тех, кто постоянно заверяет, что не видит никаких преград для моделирования работы мозга, не забывая в каждом постинге пинать философию так, будто философия в нем вызывает личную глубокую и ничем не скомпенсированную фрустрацию, и этот факт настолько важен для судеб мира, что его необходимо поминутно и навязчиво озвучивать, как заклинание от нечистой научной силы.

Однако если спросить у такого материалиста, что он сам имеет в виду под свершившимся фактом удачного такого моделирования, например, будет ли такая модель обладать любовью или Эдиповым комплексом, к примеру, материалист тут же обзовет такие требования антропоморфизмом (слово-то какое по-философски затхлое !).

Это я. Я склонен спросить, что такое любовь, и что такое Эдипов комплекс (в терминах описания работы мозга, допустим, что они нам стали известны, эти принципы и термины), и только потом уже я смогу ответить на ваш вопрос. А вся филосня так и строится на терминах, которые точно не определены, только философы этого не знают. Думаю, примеры, говорящие о противоречивости терминов "любовь" и "понимание", вы придумаете сами.

← →
kaif (2007-11-28 19:03) [80]

О еще одно высказывание великих о философии!
TUser © (28.11.07 18:57) [76]
философия (вся) есть словоблудие. Точка.

Можете ответить на мой вопрос [78] ?

Проблема ИИ Найти похожие ветки