Работы Р. Пенроуза (атака тайны разума, ИИ)

← →
Mystic © (2004-02-25 15:24) [0]

Предлагаю обсудить работы Р. Пенроуза. Имхо это более строгое изложение того, что я смутно ощущал (иногда пытался доказать в беседах на этом форуме, ...)

В Англии принято присваивать выдающимся соотечественникам дворянское звание Рыцарь (Knight) и титул Сэр (Sir). В том, что недавно Рыцарем стал крупнейший математик и физик-теоретик Роджер Пенроуз, есть точная символика: вот уже более десяти лет он бесстрашно, открыто и честно атакует одну из величайших тайн природы - тайну разума.

Утверждая, что смоделировать интеллект на машине нельзя, Пенроуз предлагает физический механизм, на котором, возможно, основаны наши интеллект и сознание - а может быть, и то неуловимое, что мы называем личностью человека. "Физическая личность"?..

Микродайджест:

Основные результаты и гипотезы Пенроуза и его коллег по этому отчаянному предприятию суммированы в книге "Тени разума" и в нескольких статьях. Их можно разделить на "отрицательную программу" и "положительную программу".

Отрицательная программа сводится к математической аргументации (на основе теоремы Геделя) против возможности алгоритмически смоделировать разум. Понятием "разум" можно хоть как-то оперировать в формальных терминах, если иметь в виду математическое творчество - теоремы, вычисления, алгоритмы. Поэтому появляется возможность использовать достаточно четкие аргументы - а они-то как раз и подтверждают, что даже в математике самое существенное - то, что не формализуемо! Тем меньше остается надежд, что можно смоделировать другие свойства разума.

Положительная программа, строго говоря, есть всего лишь обсуждение комплекта согласованных друг с другом гипотез. Одна их часть относится к физике, другая - к нейрофизиологии, а в итоге получается вот что. Существенную роль в таком неотъемлемом свойстве разума, как сознание, играет некий "квантовый процесс" в так называемых микротрубочках нейронов мозга. Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося принципиально важный ингредиент: невычислимость (а без нее не обойтись, если мы согласны с выводами отрицательной программы). В рамках существующей квантовой теории описать этот процесс невозможно (так как в ней все вычислимо, пусть даже и в вероятностном смысле). Можно сделать лишь некоторые количественные оценки, но до сколько-нибудь полной теории таких явлений еще далеко. Более того, Пенроуз считает, что создание этой теории должно быть связано с таким же радикальным, концептуальным пересмотром основ физики, какого в свое время потребовало создание общей теории относительности. По поводу реализуемости нужных квантовых процессов в клетках мозга тоже есть лишь косвенные данные. Однако работа продолжается очень активно, и к ней начинают подключаться экспериментаторы.

http://old.computerra.ru/offline/1998/268/1732/
http://old.computerra.ru/online/hisi/7427/
http://old.computerra.ru/online/hisi/7473/
http://www.edurss.ru/cgi-bin/db.pl?cp=&page=Book&id=3049&lang=Ru&blang=ru&list=6

← →
Aristarh © (2004-02-27 00:21) [1]

Из одной из ссылок:
>"Сознание невозможно объяснить ни в рамках физики, ни в рамках
>теории вычислений, ни вообще в рамках науки."

Надо же..., а ведь совсем недавно наши закостенелые мастера и
подмастерья на полном серьезе убеждали, что именно абсолютно
случайные мутации(ну а какие они еще могут быть, кроме
направленных) явились причиной возникновения жизни. Сиречь,
генератор случайных чисел. Надо понимать, что дай их компьютерам
тоже время, что понадобилось для формирования человека, так на
их жестких дисках зародится искусственный интеллект. :-)

← →
Marser © (2004-02-27 00:55) [2]

> Aristarh © (27.02.04 00:21) [1]

Тыж у нас вроде как атеист?

← →
Alex Konshin © (2004-02-27 01:10) [3]

Предлагаю сменить цвет значков для всех атеистов, чтобы неатеисты могли сразу их отличать.
:)

← →
Marser © (2004-02-27 01:15) [4]

> Alex Konshin © (27.02.04 01:10) [3]
> Предлагаю сменить цвет значков для всех атеистов, чтобы
> неатеисты могли сразу их отличать.
> :)

Ну мы с
Сан-Санычем давно знакомы...:-)
Просто для меня сейчас материализм с детерминизмом стоят очень близко.

← →
Aristarh © (2004-02-27 01:43) [5]

>Marser © (27.02.04 00:55) [2]
>Тыж у нас вроде как атеист?

Подобные определения - это сродни градации белое-черное, что не
есть правильно. И понятие "верующий" не есть тождеством полному
и безоговорочному принятию библии, равно как и наоборот.

← →
Думкин © (2004-02-27 06:28) [6]

> [1] Aristarh © (27.02.04 00:21)
> Надо же..., а ведь совсем недавно наши закостенелые мастера и
> подмастерья на полном серьезе убеждали, что именно абсолютно
> случайные мутации(ну а какие они еще могут быть, кроме
> направленных) явились причиной возникновения жизни.

К сожалению, той ветки не видел и не учавствовал, но было бы интересно увидеть ссылку.
А про абсолютно случайные - чтоо вы под этим подразумеваете? Ведь даже случайное может иметь напроавленность - опыты Менделя вам знакомы?

← →
TUser © (2004-02-27 07:43) [7]

Вместо "нельзя смоделировать разум" надо писать "мы не можем/не хотим смоделировать разум".

← →
Кот Бегемот © (2004-02-27 09:44) [8]

Полностью согласен !!!

Реализовать ИИ человека на компьютере на сегодняшний день нельзя.
Можно смоделировать поведение - основанное на некотором КОНЕЧНОМ наборе вариантов - например "Игра в шахматы" :).

Сюда же можно отнести и инстинктивное поведение, преследование добычи и т.п. - но это только зачаточное состояние ИИ.

← →
Vint © (2004-02-27 12:31) [9]

Мне кажется, что речь надо вести не о невозможности моделирования ИИ, а о работе мозга человека!

ведь, что такое ИИ это те же постоянные if-then с меняющимися приоритетами в зависимости от результата, т.е. если человек обжегся, то проанализировав причины у него появляется опыт! - обычное критическое завершение процедуры с выводом ошибки вызвавшей сбой!

одному человеку такая программа конечно не под силу, но если бы такую программу писало бы миллион человек, мне кажется это вполне осуществимо.

сечас нет технологий, чтобы создать механическую модель тела человека, необходимую для анализа окружающей среды, т.е. видео, звук, обаняние и т.д., но на счет разума я уверен, что уже сейчас это возможно было бы, если бы какая то страна выделяла бы на этот проект столько денег, сколько скажем на космические иследования, другими словами это просто никому не нужно!

← →
Думкин © (2004-02-27 12:44) [10]

> [9] Vint © (27.02.04 12:31)

Вся штука в том что это может оказаться не так - про if-then и т.п.

← →
DiamondShark © (2004-02-27 12:46) [11]

> Aristarh © (27.02.04 00:21) [1]

Процесс чтения книг, сопровождающийся видением фиг.

Процитированное предложение -- это не утверждение автора, а лишь иллюстрация одной из возможных позиций, какую можно занять по рассматриваемому вопросу.

← →
DiamondShark © (2004-02-27 12:54) [12]

Вообще-то, шум вокруг работы несколько излишний.
Идеалистов, мистиков и верующих просим не беспокоится. Рассматривается лишь возможность/невозможность моделирования разума численными методами.
Доказательства бога, нематериальности сознания, астрала, инфополя и прочие посрамления "оголтелых атеистов-материалистов" временно откладываются. (в который-то раз уже)

← →
Mystic © (2004-02-27 13:04) [13]

> Идеалистов, мистиков и верующих просим не беспокоится. Рассматривается
> лишь возможность/невозможность моделирования разума численными
> методами.

Не только числеными методами... Но еще и на базе фундаментальных законов физики... А это уже серьезная заявка на их неполноту...

Вообще, нечто похожее можно предположить... Согласно квантовой механики, наше будущее вычислимо (правда в вероятностном смысле). Значит пойду я завтра на работу (в субботу) или нет, зависит от результата исхода некоторой случайной величины, но никак не меня...

Эсли эта программа будет выполнена, возникнет много вопросов...

← →
Mystic © (2004-02-27 13:26) [14]

> Вместо "нельзя смоделировать разум" надо писать "мы не можем/не
> хотим смоделировать разум"

Почему? Проведем паралель. Есть задачи, которые нельзя решить на компьютере. Алгоритмически неразрешимая проблема. То же самое может оказаться и с моделированием разума. Если только точно формализовать, какие особенности являются прерогативой разума. И если сюда же доказать, что разум не может быть смоделирован любым устройством, действующим согласно фундаментальным законам физики, то... возникнет ряд вопросов...

← →
DiamondShark © (2004-02-27 13:36) [15]

> А это уже серьезная заявка на их неполноту...

Угу. Опять же, в который раз.
Вот только заявок на полноту ни разу не было. Любой физический эксперимент "на переднем крае", так сказать, -- это заявка на неполноту.

Что касается программы.
К "отрицательной части" возражение такое: достоверность любого математического вывода равна достоверности исходной посылки.
А исходная посылка -- это модель, которая была принята для дальнейших выкладок. Доказать адекватность оной модели только на основе этой самой модели невозможно (Гедель, блин). Только извне, то бишь практикой. Насколько я понял, это не было сделано.
Т.о. "отрицательная часть" идёт лесом по определению.

С "положительной частью" интереснее. Надо оригинал читать. По дайджестам и форумам не понятно нифига.

← →
DiamondShark © (2004-02-27 13:46) [16]

> Mystic © (27.02.04 13:26) [14]

Для алгоритмического моделирования достаточно очень малого числа "законов физики". Поэтому доказательство алгоритмической невычислимости ну никакой абсолютно трагедии не представляет.

> И если сюда же доказать, что разум не может быть смоделирован
> любым устройством, действующим согласно фундаментальным
> законам физики, то... возникнет ряд вопросов...

Для этого надо ни много ни мало, а всего-то навсего узнать все законы физики.

Ах, да... забыл совсем...

> > И если сюда же доказать, что разум не может быть смоделирован
>
> > любым устройством, действующим согласно фундаментальным
>
> > законам физики, то... возникнет ряд вопросов...
>
> Для этого надо ни много ни мало, а всего-то навсего узнать
> все законы физики.

И доказать ещё, что это не есть просто новый закон физики.

>Думкин © (27.02.04 12:44) [10]

ну, я имел в виду лишь сам принцип...

хотя конечно столько вопросов - как это будет...

ведь вот ребенок: рисует сначало кулю-мулю, потом получается рожица, потом человек может нарисовать довольно похожий на реальность рисунок... т.е. программа самообучения работает, но потом почему то прогресс останавливается и фотографию он не нарисует как ни старайся! почему?

да, будущее интерестно, всякие открытия, полеты к звездам, роботы, жаль мы так нифига ничего из этого и не узнаем :(

>DiamondShark © (27.02.04 13:46) [16]
>Для этого надо ни много ни мало, а всего-то навсего узнать все
>законы физики.

Что вы, кучка сбившихся вместе амминокислот, несомненно, и
сделали, раз всегда так безапелляционо и едко провозглашаете
собственную правоту.

> Aristarh © (28.02.04 02:03) [19]

Прежде чем [пиип], желательно немножко напрячь жалкую кучку серого вещества в головной кости.

Есть иной способ доказать, что нечто не описывается законами физики? Внимательно слушаем-с.

>DiamondShark © (28.02.04 09:24) [20]

Чего вы такой злой? Или это на реакция на осознание, что вы не
более чем кучка случайно сбившихся вместе амминокислот? Ну так
простите меня, просто зная ваши ультраматериалистические
взгляды, я действительно полагал, что данное сравнение прозвучит
для вас ласкающей апассионатой.

В сети настолько много различных цифр и расчетов, доказывающих
невозможность самозарождения жизни, что я, пожалуй, их здесь
приводить не буду - их найти не трудно. Зато весьма интересны
следующие высказывания:

Эволюционист Сэр Фред Хойл:
"Вера в случайное возникновение первой клетки подобно вере в то, что торнадо, пронесшийся по свалке, мог собрать Боинг-747 из находящихся там материалов."
"Убеждение, что... действующая программа живой клетки могла появиться случайно в первобытном бульоне здесь, на Земле, очевидный вздор высшей степени."

Эволюционист Майкл Дентон:
"Комплексность простейших известных типов клетки настолько велика, что невозможно предположить, что подобный объект мог зародиться внезапно по вине капризного, крайне невероятного случая. Такое совпадение было бы неотличимо от чуда."

Исследователь и математик И.Л. Коэн:
"На данный момент, когда система РНК/ДНК стала понятной, споры между между эволюционистами и креационистами дошли до пронзительного визга тормозов. ...значение ДНК/РНК было очевидным и явным. Говоря математически, основываясь на теории вероятности, нет никакой вероятности того, что эволюция была механизмом, создавшим приблизительно 6 000 000 видов растений и животных, которых мы знаем сегодня."

Прозвучали слова "матаматика" и "вероятность". Наверняка наш
местный математик Думкин будет полностью согласен с доктором
Эмилем Борелем, признанным авторитетом в области теории
вероятности:
"Если шанс какого-либо события меньше, чем один из 10 в 50-й степени, то оно никогда не произойдет, независимо от длительности отпущенного времени."

ДНК - миниатюрное чудо. Информация хранится настолько компактно, что количество ДНК, необходимых для кодирования информации всех людей, живущих на нашей планете, может уместиться в объем не более того, который занимает таблетка аспирина!

Представьте себе такую картину: вы прыгаете вниз с двадцатиэтажного дома. Перед самым моментом вашего удара о землю внезапный сильный порыв ветра подхватывает вас и мягко забрасывает обратно на крышу дома. Вероятно? Весьма маловероятно! Но даже этот пример намного вероятнее самозарождения жизни.

Д-р Уайлдер-Смит, уважаемый ученый с тремя докторскими степенями:
"... попытка объяснить формирование генетического кода из химических составляющих ДНК... сравнима с предположением, что текст книги произошел от молекул бумаги, на которой находятся предложения, а не из какого-либо внешнего источника информации."
"Как ученый, я убежден, что чистой химии клетки недостаточно для того, чтобы объяснить работу клетки, несмотря на то, что эта работа химическая. Химическая работа клетки контролируется информацией, которая не располагается в атомах и молекулах этой клетки.
Есть некий автор, который превышает пределы материального и материи, из которой сделаны эти нити. Прежде всего, автор задумал информацию, необходимую для создания клетки, потом записал ее, и поместил в механизме чтения, и осуществил это на деле - таким образом, клетка строит саму себя из информации..."

Enjoy, разумные протеины! :-)

> [21] Aristarh © (28.02.04 14:00)

Оно така - только ведьвы существуете. А ведь вместо такаого замечательного дити у вас мог быть другой. Вас это не удивляет.
Это для начала. А по взрослому - все сказал
> [20] DiamondShark © (28.02.04 09:24). Я только присоединяюсь.

> Aristarh © (28.02.04 14:00) [21]
> Чего вы такой злой? Или это на реакция на осознание, что вы не
> более чем кучка случайно сбившихся вместе амминокислот? Ну так
> простите меня, просто зная ваши ультраматериалистические
> взгляды, я действительно полагал, что данное сравнение прозвучит
> для вас ласкающей апассионатой.

Не-а. Плохой телепатор на толкучке продали. Мне, как материалисту (ультра -- это помехи в телепаторе были), вообще пофиг из чего я там сделан, потому что какие бы эмоциональные терзания я по этому поводу не испытывал, факт бы не изменился.

> В сети настолько много различных цифр и расчетов, доказывающих
> невозможность самозарождения жизни, что я, пожалуй, их здесь
> приводить не буду - их найти не трудно.

А вы не находите, что это выглядит весьма странно? Коль вы видели эти расчёты и цифры, знаете где они лежат, то что мешало выложить сюда точные ссылки? Что это за мелочная вредность?
А вот мне думается, что всё просто. Никаких цифр и расчётов вы в глаза не видели, а пересказываете здесь точно такие же заклинания, слышанные в другом месте. Иначе бы вместо загибания дешёвых понтов просто дали ссылки. Ведь это -- по вашим же словам -- так просто!

Я уже как-то говорил: я понимаю, что защита своего мировоззрения -- важное условие внутреннего комфорта, но вот если для этого приходится врать, то это повод предположить серьёзные проблемы с таким мировоззрением.

> Зато весьма интересны следующие высказывания:

Совершенно не интересны. Интересными были бы именно ссылки на работы, из которых взяты эти цитаты.
Опять же, странное дело: раз вы приводите цитаты, вы видели эти работы, читали их. Они же у вас под рукой были, когда вы цитаты набирали. Ведь так? Ведь правда?
Или мне опять с прискорбием признать, что никаких "различных цифр и расчетов" вы в глаза не видели, а надёргали текста из какого-то цитатника, "Сторожевой башни", сайта каких-то сектантов или чего там ещё...

Но даже приводя цитаты, нужно хоть немного задуматься над цитируемым.
Вот к примеру: "Если шанс какого-либо события меньше, чем один из 10 в 50-й степени, то оно никогда не произойдет, независимо от длительности отпущенного времени."
Сие есть бред великий.
Берём 10 в 50-й степени фишек, на каждой пишем уникальное число. Кладём в мешок, тщательно трясём, потом вытаскиваем фишку. Шанс вытащить эту фишку как раз и будет один из 10 в 50-й степени.
Или даже ещё проще. Берём 10 фишек с цифрами от 0 до 9. Кладём в мешок, встряхиваем, вытаскиваем фишку. Записываем циферку на бумажке. Кладём фишку обратно и повторяем 50 раз. Вероятность получить строку из 50 десятичных цифр равна 10 в 50-й.

Другая проблема, аналогичная уже рассматривавшимся в топике, -- все вероятностные рассуждения о зарождении. Здесь вы отказываетесь видеть то же, что не увидели в моём утверждении о законах физики, то же, что я говорил об "отрицательной программе".
Повторяю: достоверность математических заключений равна достоверности исходной посылки. В данном случае посылка -- модель рассматриваемого явления. Итак, достоверность вывода равна достоверности модели. Но достоверность модели не может быть установлена только в рамках самой модели (то бишь математически). Математически может быть установлена только внутренняя непротиворечивость. Достоверность может быть установлена только извне -- практикой.
Теперь давайте сформулируем вывод применительно к нашему случаю. Чтобы было возможно получить достоверное опровержение самозарождения надо иметь верифицированную практикой модель самозарождения. Прочитайте еще раз, постарайтесь понять, что это значит.
Это простой логический вывод. Но чтоб к нему прийти, надо задуматься над читаемым, а не выдумывать, какую бы ещё приставку присобачить к слову "материализм".

ЗЫ
Кстати, внесите коррективы в цитатник: Сэр Фред Хойл не эволюционист, а астроном и математик.
Да, и постарайтесь выяснить, какими именно степенями осенён уважаемый Д-р Уайлдер-Смит.

Работы Р. Пенроуза (атака тайны разума, ИИ) Найти похожие ветки