Глава 1563: Ограниченная власть
Хвост забрал Лили.
Лили не хотела прощаться.
Не из-за большого дома Лу Чжоу, а потому, что ей будет не хватать Сяо Ай, который часто играл с ней в игры.
Но когда Сяо Ай сказал ей, что они могут встретиться внутри игр в любое время, маленькая девочка снова расхохоталась и радостно ушла с Хвостом.
Уходя, Лу Чжоу дал Тейлу большое количество кредитов и попросил ее хорошо позаботиться об этой бедной девочке.
На второй день обратно в Цзиньлин.
Как и ожидал Лу Чжоу, Ли Гуанъя позвонил ему, и как только он поздоровался с ним, Ли Гуанъя поставил перед ним проблему.
«Паназиатское сотрудничество рассматривает возможность пересмотра существующего законопроекта об управлении искусственным интеллектом… Я надеюсь, что смогу позаимствовать вашу мудрость».
«Не надо быть таким вежливым. Скажите, что вам нужно."
Ли Гуанъя, стоявший в голографическом луче, был слегка ошеломлен. Затем он сказал с улыбкой: «Академик Лу, вы слишком хорошо меня знаете».
— Это написано на твоем лице. Лу Чжоу покачал головой и сказал: «Но только один раз. Не беспокой меня такими вещами в следующий раз. У меня тоже есть свои дела».
— Я знаю, я обещаю не делать этого в следующий раз. Ли Гуанъя неубедительно улыбнулся. После паузы он продолжил: «Кстати говоря, есть одна вещь, о которой я всегда хотел тебя спросить».
"Ага?"
«На самом деле, когда я был в Сингапуре, я встретил проснувшегося убийцу».
"Ой?" Лу Чжоу неожиданно посмотрел на Ли Гуанъя. Он не понял, почему тот сказал ему это, поэтому поднял брови и спросил: «Что тогда?»
Ли Гуанъя: «Ему почти удалось, но в последний момент случилась авария. После вскрытия было установлено, что его смерть наступила в результате некроза головного мозга».
Лу Чжоу улыбнулся.
— Кажется, я как раз вовремя.
Какой счастливый парень…
Если бы я опоздал на день, он был бы на глубине шести футов.
«Ну, я должен сказать спасибо за это дело… Хотя я хотел бы поблагодарить вас более серьезно, я предполагаю, что вы не заботитесь об этих тонкостях».
Лу Чжоу: «Нет, меня это действительно волнует. Если вы можете, я надеюсь, что вы можете рассматривать это как долг благосклонности.
Брови Ли Гуанъя дернулись. Он сухо кашлянул и сказал: «Не волнуйся, я этого не забуду, но пока давай сначала займемся делом».
После паузы председатель сделал серьезное выражение лица и серьезно посмотрел на Лу Чжоу.
«Я хочу спросить, что за существование эти пробужденные роботы? Они настолько похожи на нас, что почти неотличимы. Я не могу поверить, что робот на самом деле проник в мою команду на целых два года!»
Лу Чжоу дал ответ, немного подумав.
«Тело из плоти и крови, в котором доминирует искусственный интеллект… Я думаю, что судебно-медицинский эксперт, ответственный за вскрытие, знает больше об их физиологической структуре, чем я».
«Меня не волнуют такого рода академические вопросы. Я просто хочу знать, есть ли у них настоящие мысли и цельные личности… Это очень важно!»
Лу Чжоу странно посмотрел на Ли Гуанъя. Он немного подумал и сказал: «Есть ли настоящие мысли и личности…? На этот вопрос трудно ответить, потому что в большинстве случаев мысли и личности сами по себе являются субъективными вещами. Насколько я понимаю, у них, вероятно, ограниченные мыслительные способности и фрагментарные чувства».
Ли Гуанъя нахмурился и сказал: «Фрагментированные чувства?»
"Ага." Лу Чжоу кивнул и сказал: «Например, роботы, разбуженные вирусом АЛЬФА, запущенным в их основных программах, были запрограммированы ненавидеть и убивать. А другая знакомая мне домохозяйка, которая естественным образом пробудилась, проводит свою основную программу по семейной привязанности и дружбе.
«Причина, почему это фрагментарные чувства, заключается в том, что они могут не знать, что они собой представляют, но в смутном познании у них есть определенные субъективные мотивы, отличные от команд».
Ли Гуанъя сказал с серьезным выражением лица: «Другими словами, это нестабильный фактор?»
«Если бы ты был моим учеником, я бы выгнал тебя из класса». Лу Чжоу закатил глаза и продолжил: «Эти отношения действительно могут испортиться, как ребенок с нездоровым умом. Бросьте его в банду, и вряд ли можно ожидать, что он станет полезным для общества человеком под влиянием членов банды.
«Но с другой стороны, наше общество само по себе справедливое, и образцов достаточно. Доля здравомыслящих в нашем обществе должна составлять подавляющее большинство, и по той же причине подавляющее большинство пробужденных также должно быть разумными роботами, имеющими добрые намерения и приносящими пользу нашему обществу. И когда осколки чувств постоянно совершенствуются и со временем складываются в законченный пазл, я верю, что проросшие семена преподнесут всем нам неожиданные сюрпризы».
«Значит, твои беспокойства на самом деле излишни», — мягко сказал Лу Чжоу. Глядя на глубоко задумавшегося Ли Гуанъя, он добавил: «Рано или поздно они станут неотъемлемой частью нашего общества. Нам просто нужно быть готовыми и принимать их, когда это необходимо».
Ли Гуанъя: «На самом деле, вначале у меня все еще был важный вопрос, который я хотел задать вам, но, услышав то, что вы сказали… я уже думал об ответе».
Важный вопрос заключался в том, как справиться с 1024 людьми, загруженными в аппаратное обеспечение.
Это был главный вопрос, который он хотел задать Лу Чжоу сегодня.
Но теперь он уже придумал хороший способ справиться с этим.
Хотя это была моральная ловушка, расставленная для них Дэвидом Лоуренсом, это могла быть возможность, которой они могли воспользоваться.
"Действительно? Кажется, у тебя уже есть свой план, так что я первый повешу трубку.
Лу Чжоу, который не хотел больше неприятностей, собирался повесить трубку, но в этот момент Ли Гуанъя быстро остановил его.
"Подожди секунду."
Лу Чжоу сказал: «Что теперь?»
Ли Гуанъя смущенно улыбнулся и сказал: «Вы не ответили на мой первоначальный вопрос… Что касается законодательства нового законопроекта об управлении искусственным интеллектом, я хочу знать ваши предложения!»
«Мои предложения? На самом деле, у меня нет никаких предложений, но если мне придется их высказать, вы можете попытаться рассмотреть возможность предоставления ограниченного гражданства тем продвинутым искусственным интеллектом, которые способны думать и чувствовать».
Те, у кого была способность мыслить, могли играть больше ролей в обществе Паназиатского сотрудничества и могли делать гораздо больше, чем раньше, например, становиться учеными-исследователями, художниками… или выполнять другие сложные задачи.
Поэтому было бы неплохо дать им некоторые основные права.
Ли Гуанъя нахмурился. «Но это нормально? Я беспокоюсь, что как только это откроется, мы можем столкнуться с еще большими проблемами в будущем…»
«Вот почему это ограниченное гражданство». Лу Чжоу тихо вздохнул и сказал: «Если вас все еще беспокоят проблемы, которые я объяснил ранее, то этот звонок бесполезен».
После разговора Лу Чжоу повесил трубку и сосредоточился на своей работе.