Кирилл Мартынов ([info]kmartynov) wrote,
@ 2006-09-15 12:27:00

прошлое одного робота
Один из мысленных экспериментов, предложенных Деннетом, связан с идеей дать роботу воспоминания о несчастной любви и подлых предателях. Без этого, похоже, хорошей пьесы ему не написать:

Представим себе, что доктор Франкенштейн решил создать некое существо – Спиршейка, для того чтобы оно написало пьесу «Спамлет». Допустим, что у Франкенштейна есть неограниченные ресурсы и подходящие технологии для того, чтобы создать «робота», который способен сидеть на стуле и писать. В данном случае для нас не важно, каким именно будет устройство нашего робота, будет ли его «мозг» создан из силиконовых чипов или из аминокислот. Также мы пренебрегаем временем, которое могло бы понадобиться для создания такого сложного робота. И вот Спиршейк заканчивает свою пьесу «Спамлет».

Теперь зададимся вопросом: кто автор «Спамлета»? Чтобы ответить, нам нужно разобраться, что происходит внутри Спиршейка. Допустим, что мы находим там файл, в котором записал текст «Спамлета». В этом случае, безусловно, автор пьесы – Франкенштейн, который лишь использовал Спиршейка в качестве некоторого фантастического текстового редактора. Представим себе обратную ситуацию, когда большая часть работы была сделана Спиршейком. В этом случае, мы должны предположить, что Спиршейк был наделен виртуальным прошлым, некоторой псевдопамятью, в которой содержатся «воспоминания» об определенных «переживаниях», способных заставить Спиршейка написать «Спамлета». Мы можем предположить, что среди этих «воспоминаний» есть память о вечерах, проведенных в театре, о прочитанных книгах, а кроме того – о несчастной любви и подлых предателях.

Что происходит после этого? Спиршейк начинает «творческий» процесс, то есть процесс вычисления с порождением и проверкой вариантов, поиска в своей памяти подходящих отрывков и тем, трансформации и перемещения, «жонглирования отрывками во временной памяти», уничтожения большинства из них как неудачных и т.д. Весь этот многоуровневый поиск будет направляться многоуровневыми, самопорождаемыми оценками, включающими в себя оценки оценок и т.д. В этом случае, если Франкенштейн создал виртуальное прошлое Спиршейка и всю его творческую поисковую систему, а кроме того предвидел появление «Спамлета» во всех его деталях, то тогда он также является автором пьесы, а кроме того, коротко говоря, Богом. Более реалистичный сценарий таков: Франкенштейн делегирует Спиршейку большую часть трудной работы по составлению некоторого конкретного теста на основе многообразных проявлений виртуального прошлого. Тогда автором «Спамлета» будет Спиршейк. Теперь остается сделать последний шаг: искусственных сочинителей пьес еще не создано, но искусственные игроки в шахматы или искусственные композиторы уже существуют. 

(Post a new comment)


[info]dyke_v_palto
2006-09-15 08:39 am UTC (link)
вопрос критериев
творчества в том числе
можно считать что Бух заложил в человека
способность к созданию механизмов вплоть до людей
и тогда всё это - вторичные и заложенные в программу кг/амы

из любого спамлета можно создать искусство
нынче это вопрос не заложенной в текст программы
а - тупо - раскрутки

(Reply to this)

[info]fly_kex
2006-09-15 08:41 pm UTC (link)
Я бы начал юзать это забугорное чудо техники только с той версии, где появится HumanisticDreamsPresetsCollection. Думаю, что сторонние производители тоже бы обратили внимание ограниченность деннетовских наработок в области искусственного интеллекта и теории литературы и выпустили бы SocRealisticArts.Optimism.Filter.Pro.Plugin. Ну или хотя бы RimuvPeZimiZm&4ernuXa.patch.ripped.by.MegaCulHazker, в последнем случае скорее всего в тексте иногда бы не срабатывала проверка на орфографию, появлялись бы крякозябры вместо целых глав и частей, герои бы менялись местами, но как фон, чтоб с утра в транспорте не уснуть - если ещё ручку action до упора выкрутить - самое то!

(Reply to this)(Thread)

[info]kmartynov
2006-09-15 08:45 pm UTC (link)
Класс!

(Reply to this)(Parent)

[info]joppux
2006-09-17 08:19 am UTC (link)
Деннет явно слишком оптимистичен - впихнуть миллиарды лет эволюции в робота несколько затруднительно. Вроде бы Черчленд сторонник более "биологического" подхода?

(Reply to this)(Thread)

[info]kmartynov
2006-09-17 08:46 am UTC (link)
Да. Но конкретно здесь речь идет о принципиальной возможности такого робота, а не технологической. А вообще Деннет делает ставку на то, что эволюция в последнее время ускорилась и перешла в культурную сферу. Поэтому, учитывая накопление информации и кооперацию между людьми, от нас не требуется впихивать в роботв миллиарды лет биологической эволюции. Достаточно пару лет культурной )

(Reply to this)(Parent)(Thread)

[info]joppux
2006-09-17 05:04 pm UTC (link)
А есть у Черчленда какие-нибудь интересные труды? Или вообще, что-нибудь по философии сознания, но с более биологическим уклоном?

Принципиальная возможность неинтересна, как сказано в последнем предложении, ждем уже в реальности.

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-17 05:11 pm UTC (link)
Биологический уклон характерен также для Серла, Хомского и Макгинна, причем все считают, что биология накладывает определенные ограничения на перспективы изучения сознания и создания ИИ.

Монографий Черчленда я не читал, а статьи у него в основном посвящены тому, что он убежден, что убеждений не существует )

На самом деле мозг изучен очень плохо, конечно, так что пока такая перспектива в изучении сознания пока какая-то безрадостная. Гораздо интереснее программировать авторов пьес, пусть даже и воображаемых пока.

(Reply to this)(Parent)(Thread)

[info]joppux
2006-09-18 04:52 pm UTC (link)
> перспектива в изучении сознания пока какая-то безрадостная

Хочу еще попользоваться вами как источником знаний: читали ли вы On Intelligence? А не знаете содержание сборника "В мире науки" по нейронаукам?

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-18 06:08 pm UTC (link)
Нет, мои интересы лежат, скорее, в сфере вопросов философии сознания и отчасти когнитивной науки. А нейронаука, в том числе куча новых теорий мозга - это большое пятно в моем образовании.

(Reply to this)(Parent)

[info]fly_kex
2006-09-18 02:00 am UTC (link)
...Достаточно пару лет культурной )
Когда амер. анал. философы обычно пишут, что, допустим, у них есть _вся_ информация по такому-то вопросу, они это имеют в виду?

В примере с роботом, он должен найти эту "всю информацию" и каким-то образом её оценить и рассортировать, грубо говоря, по принципу true/false.
Но так как создавать его будут _люди_, то изначально это они должны будут оценивать, правильно ли он оценивает. И если его произведут в той же Америке, то по пункту "самый крутой философ" в "true" у него, волшебным образом, попадёт Деннет. А если, скажем, в Китае - при совершенно том же алгоритме оценки, попадёт какой-нибудь Мао, точно не Деннет.
И так во всём. Во всех спорных вопросах он будет опираться на специфические взгляды его создателей. В результате он бы написал абсолютную копию того, что написал бы сам Деннет, если бы решил написать пьесу. Даже если его будут заставлять написать что-то вроде Гамлета, на основе той же самой "всей информации", у разных производителей он будет писать разных Гамлетов.
И получится, что никто кроме его производителей не будет считать, что он воспринял в целом "культурную сферу" верно. Так что, при всей идеализации, даже достаточной "культурной сферы" робот не получит никак и никогда.


(Reply to this)(Parent)(Thread)

[info]joppux
2006-09-18 06:58 am UTC (link)
По-моему, эти рассуждения можно с успехом применить и к человеку.

(Reply to this)(Parent)(Thread)

[info]fly_kex
2006-09-18 06:04 pm UTC (link)
И к таким заявлениям аналитиков про "всю информацию" и "реалистичные варианты" тоже.

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-18 06:05 pm UTC (link)
В каком смысле?

(Reply to this)(Parent)(Thread)

[info]fly_kex
2006-09-18 06:47 pm UTC (link)
см. ниже об этом :)

(Reply to this)(Parent)

[info]kmartynov
2006-09-18 07:30 am UTC (link)
Ну да, робот, который будет создаваться в США, будет, скорее всего, американским роботом, а китайским - китайским.

А вот что касается точной копии, то даже существующие шахматные программы это опровергают. Каспарова обыгрывали не создатели Deep Blue, а сама программа.

Погрешности в восприятии "культурной сферы" обычно и называются творчеством )

(Reply to this)(Parent)(Thread)

[info]fly_kex
2006-09-18 06:42 pm UTC (link)
Ну да, робот, который будет создаваться в США, будет, скорее всего, американским роботом, а китайским - китайским.

Точнее более или менее удачной попыткой скрыть чисто имитационный характер воспринятого от мнений людей обусловленых какой-либо культурой. Не по-настоящему же всё равно.

А вот что касается точной копии, то даже существующие шахматные программы это опровергают. Каспарова обыгрывали не создатели Deep Blue, а сама программа.

Занесло с идеализацией меня. Точная копия - задача сложнее, чем реализация вторично выведенных принципов на более совершенном, чем единичный чел. мозг, оборудовании.

Погрешности в восприятии "культурной сферы" обычно и называются творчеством )

Я уверен в объективности этого процесса. И что можно смоделировать. Мне хватило Г. Альтшуллера для такой уверенности.
Но вот аналитики устраивают иногда откровенно какую-то метафизическую психушку. Они вещи всегда слишком просто называют. Нужно говорить всё-таки об ограничениях больше.

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-18 06:45 pm UTC (link)
А у нас с вами не имитационный характер воспринятого от мнения людей? Мы не обусловлены культурой? Мы - настоящие?

Какого процесса? Творчество, естественно, объективно. Это процесс создания новой информации.

(Reply to this)(Parent)(Thread)

[info]fly_kex
2006-09-18 06:54 pm UTC (link)
А у нас с вами не имитационный характер воспринятого от мнения людей?

Неправильно сформулировал. Там было про скрытие от людей и их мнений.

Мы - настоящие?

:) Х.з. Вроде бы. А какие предложения ещё есть?

Какого процесса? Творчество, естественно, объективно. Это процесс создания новой информации.

Но без человека-носителя - это только моделью будет, построенной по чьим-либо представлениям.

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-18 07:01 pm UTC (link)
А чем мы отличаемся от роботов?

Человек и есть модель, построенная по представлениям биологической эволюции и культуры.

(Reply to this)(Parent)(Thread)

[info]fly_kex
2006-09-18 08:18 pm UTC (link)
А чем мы отличаемся от роботов?

Тем что на человека полной технической документации от производителя нету.
И если не средствами химии/биологии пытаться воссоздать мозг, то получится модель, основанная на наблюдениях всё же, а не сам мозг.
А гарантий полноты наблюдений нет.

Человек и есть модель, построенная по представлениям биологической эволюции и культуры.

Я имел в виду, представление = неполное знание.

Да, но я о другом, как можно это всё достоверно сымитировать в готовом виде на уровне информации, я не пойму.

(Reply to this)(Parent)(Thread)

[info]kmartynov
2006-09-19 02:21 pm UTC (link)
Ну наука ведь работает над получением полной технической документации о нас. Может быть, мы просто роботы, документы на которых потерялись?

Не понял, в чем идея с мозгом. Мозг - это физический объект? Физические объкты даны нам полностью? Так в чем же проблема? Как вы отличаете "сам мозг" от наших наблюдений о нем?

А что такое полное знание?

А я не понимаю, что вы здесь не можете понять. Возьмите человека - в нем все это уже сымитировано на уровне информации.

(Reply to this)(Parent)

[ Home | Update Journal | Login/Logout | Search | Viewing Options | Site Map ]

Hosted by uCoz