О самопознании, понятии "Я" и искусственном интеллекте.

[progenes]

Знаете ли вы в чем различие между шимпанзе и резус-макакой? Когда шимпанзе посадить перед зеркалом, аккуратно опустить его лапу в красную краску, а затем прикоснуть эту лапу ко лбу шимпанзе и поставить там красную метку, то может случиться, что шимпанзе вдруг узнает в запачканом краской отображении себя. Эта процедура называется руж-тест.

Что же происходит в мозгу обезьяны в момент самоосознания и что происходит буквально каждый день с ментально-здоровым человеком, когда он говорит о себе "Я"? Этим вопросом человечество задается с самого момента его зарождения и прежде, чем говорить о феномене искусственного интеллекта, надо решить собственно, что такое интеллект и самоосознание. До сих пор критерием на исскусственный интеллект считается тест Тьюринга: Если человек в беседе с одним человеком и машиной не сможет распознать где человек, а где машина, то можно считать, что мы изобрели искусственный интеллект. На самом деле подобным тестом развлекают себя раве что информатики. Философы всерьез его не принимают, хотя вопрос, что же такое сознательное "Я" и можно ли его машинно сгенерировать, остается. Очень близко к этому вопросу лежит теологическое понятие души, так что на этой философской делянке топчутся поколения философоф. Итак, современный тест на искусственный интеллект для машины заключается в том, что машина с искусственным интеллектом должна суметь для себя сформулировать проблему самоосознания и сгенерировать свою теорию, что такое "Я".

Современная философская наука в симбиозе с нейробиологией, антропологией и информатикой создала совершенно неожиданную концепцию, которая видимо наиболее реалистично отражает состояние нашего самоосознания и опрокидывает полностью теологический базис понятия души, как квазиматериального реального объекта. Если все так, то остро проявляется необходимость формирования новой гуманистической этики. Одним из выдающихся философов этого напрвления является Томас Метцингер. К сожалению его труды не переведены на русский, хотя он считается одним из наиболее убедительным в своей.

Для начала мы сконцентрируемся на основных признаках осознания "Я":
-собственность : мои мысли, моя нога, мои чувства. Метцингер приводит многчисленные примеры из нейрофизиологии, когда эта компонента либо разрушалась (шизофрения), либо наоборот (чудесный пример, когда человеку с ампутированной одной рукой (скажем, левой) показывали зеркальное отражение этой руки, которая выглядела, как правая. Подопытный ощущал совершенно определенное четкое и точное ощущение наличия ампутированной руки. То есть мозг исправно генерировал субъективное ощущение).
-ощущения "я - это кто-то". Переживание себя как нечто идентичное на протяжении времени.
-осознание себя в центре собственного внутреннего мира, другими словани наличие индивидуальной внутренней перспективы.

Откуда это все берется? Метафора, которую предлагает Метцингер, проста и на первый взгляд понятна. Хотя откровенно говоря, даже самые популярные его работы, все еще непростые для понимания. Другое дело многочисленные интервью, хотя они не дают полной картины о проблематике, над которой он работает.

Итак, представим себе сначала мозг, как некий компьютер, а который поступают самые различные сигналы: тактильные, слуховые, зрительные. Проанализировав эти сигналы, мозг формирует модель окружающей среды в режиме реального времени, такой себе "симулятор полетов". Затем происходит вот что. Этот "симулятор полетов" начинает симулировать и виртуальную модель пилота. Причем так, что эта модель даже не догадывается, что она модель и принимает все за чистую монету, влючая себя. Вот это как раз и есть наше драгоценное, бесценное и уникальное "Я", перспектива так сказать от первого лица. Получается, что наше "Я" поностью виртуальное явление, к реальному миру имеющее весьма отдаленное отношение.

С этим осознанием жить нелегко. Мы единстенный вид животных, который имеет встроенную проблему. Во-первых, наша модель самоосознания имеет пространственно-закодированную деталь - представление о собственном теле, а с другой стороны как-бы внешнюю деталь - сознание. Таким образом мы с вамии интуитивные дуалисты. Во-вторых, внутри нашей модели самоосознания пропечатан биологический императив: ты должен выжить. В-третих, никто нас не спрашивал, хотим ли мы существовать с этим мозгом, с этой формой самоосознания и в конце нас также никто не спрашивает, хотим ли мы уходить. Мы первые животные, которые осознанно это переживают. Именно на этих всей проблемах и возникла религия для компенсации эмоционального стресса, вызванного подобным осознанием. И вероятно именно это имел в виду Докинз в книге "Эгоистичный ген" когда говорил, что возникновение религии имеет в себе эволюционный смысл для выживания человечества.

Однако, подчеркивает Метцингер, все это не есть доказательством тому, что бога нет.
Формат ЖЖ не позволяет глубоко рассмотреть все аргументы на который Метцингер построил свою концепцию. Но его труды весьма интересные и убедительные. Для англоязычных рекомендую Being No One. Немецкоязычная самая доступная для понимания наверное вот это и это.

Comments

[giggster.livejournal.com]

не розумію, в чому складність усвідомлення віртуальності я.

[giggster.livejournal.com]

так, з точки зору об'єктивної реальності я і весь суб'єктивно усвідомлений навколишній світ – віртуальні. що не робить його менш реальним для кожного носія цього "я"

[virtual-giggsa.livejournal.com]

Я, до речі, теж.

[yurrray.livejournal.com]

не зрозуміло також де обіцяне опрокідиваніє теологічного базису поняття душі.

[progenes.livejournal.com]

давайте-давайте, клюйте мене, побірники ясного і чистого слогу. віртуальна значить не безсмертна!

[nahtigal.livejournal.com]

Я не зовсім зрозумів, що з точки зору Метцингера стає з "Я" в момент смерті? Воно цілком руйнується?

[progenes.livejournal.com]

якщо воно і до того існувало віртуально, то це очевидно.

sorry for translit

[yukkulent.livejournal.com]

interesno!

poluchaetsya klassicheskaya model' feedback - nashe soznanie opredeliatsia okrugaiuchim mirom, kotorii sam yavlaetsya plodom nashego soznania.

ya bi razdelila "ya" - lichnost' i "ya" - soznanie.
pervoe - virtual'no, a vo soznanie mne kagetsia dovol'no real'naya shtuka, dage biochimicheski

Re: sorry for translit

[progenes.livejournal.com]

именно! но я бы не разделяла "Я" на личность и сознание. Скорее самоосознание. А если немного это все экстраполировать, то наше самоосознание определяется окружающим миром, то есть моделью окружающего мира, которую нагенерировал мозг. У плода процесс создания модели окружиющего мира начинается еще в утробе и продолжается затем всю жизнь в режиме реального времени, в то время, как генерация модели "Я" происходит где-то в полтора года после рождения. То есть очень важно за эти полтора года создать оптимальный окружающий мир, чтобы под этим не подразумевалось.

ПыСы. Юля! Я рада тебя видеть!

О метафоре Метцингера

[yurivasilievich.livejournal.com]

Мысль о том, что ощущение "Я" сугубо субъективно, не нова, но приведённая Вами метафора Метцингера очень наглядна. Весьма благодарен.
У меня с пользователем zyrianin развернулась дискуссия о рациональных основаниях религиозной веры (http://zyrianin.livejournal.com/7883.html), проблема "Я" там оказалась одной из узловых. Загляните, если интересно.

Re: О метафоре Метцингера

[progenes.livejournal.com]

Спасибо за приглашение. Я смотрю, что дискуссия у Вас длинная и интересная и длится давно. Мне надо время, чтобы вникнуть. Я пристально наблюдаю за научной деятельностю Метцингера, гже-то позже я писала и про эксперименты http://progenes.livejournal.com/7768.html

[zyrianin.livejournal.com]

Действительно интересно; присоединяюсь к приглашению!

[progenes.livejournal.com]

Спасибо большое! Однако я пока только понабюдаю.

Информатики тест Тьюринга тоже уже не принимают.

[jescid.livejournal.com]

Вот здесь объяснено почему (http://www.ozon.ru/context/detail/id/3198703/) (но сама книжка мне не оч. понра — многое слишком многословно и сыро выложено).
Там не оч. удачная параллель с японским проводится. Т.е., если посадить неяпонца отвечать японцу на его вопросы (на японском) с помощью иероглифов, смысла которых он не будет понимать, но у него будет алгоритм когда какие выдавать (скажем, ответы ему подсовывает автопереводчик, который понимает японца) — то у того японца, может, создастся впечатление понимания, тогда как на деле он будет разговаривать с автопереводчиком.
Не оч. хорошее сравнение, но, в целом, что хотел сказать автор — понятно.

Что касается темы — то у Докинза, пмсм, лучше сформулирован тест на наличие сознания (его определение, если угодно) — наличие целенаправленности + «осознание возникает тогда, когда модель мира, создаваемая мозгом, достигает такой полноты, что ему приходится включать в нее модель самого себя» (гениальное на мой взгляд).

[aks0.livejournal.com]

Этот пример придуман Джоном Серлом лет 50 назад и называется "китайская комната". И наверное, пример все-таки хороший, т.к. Серл из-за него стал знаменитым.

[taras-braga.livejournal.com]

Моя колонія клітин не розуміє, чому власний досвід є хибним і віртуальним. Він може бути таким. Багато залежить від глибини контекстуальності пережитого власного досвіду і вміння співставляти абстрактні моделі зі свої досвідом з метою формування більш вигідних моделей поведінки. Формування "Я" -- це складний, зовсім не віртуальний процес. Питання лише в тому, що все ще більшість людей має обмежене абстрактне мишлення, що і робить їх моделі "я" комічними.

І якшо реальність віртуальна, то яка реальність об'єктивна? Як її визначити? Припустимо, що реальність для тебе і для мене настільки схожа, що ми можемо зробити два компоненти для, скажімо, адронного колайдера, і спираємось ми на віртуальні моделі, то чому колайдер все-таки зроблений? Виходить чо наукова модель реальності найістинніша релігія?

[nine_k]

Наличие "объективной реальности" — другая известная философская проблема. Увы, объективность реальности — это в строгом смысле гипотеза, _доказать_ которую невозможно. Другое дело, что в эту гипотезу столько всего укладывается, что можно считать её "скорее всего верной" и продолжать пользоваться.

[lastcomm.livejournal.com]

В общем, хорошо быть виртуальным.

[lekish.livejournal.com]

Большое спасибо за статью и за ссылки.

[mdogx.livejournal.com]

Подскажите, что есть на русском про эту "неожиданную концепцию".

Кстати Питер Уоттс написал интересную н/ф книгу "Ложная слепота", находясь под впечатлением именно Метцингера.

[katigoroshek.livejournal.com]

Т.е. Атмана не существует?)

[bizya.livejournal.com]

В двух словах - ложки нет ? Он про это ?

[nine_k]

Ложка есть. Но модель реальности, доступная ложке, настолько примитивна, что не включает саму ложку. А у человека модель мира включает и самого человека (и ложку, если есть).

[wormball.livejournal.com]

Лично я думаю, что разговоры об сознании применительно к искусственному интеллекту - баловство и демагогия. Ещё Маркс и Энгельс говорили - материя первична, сознание вторично. То бишь решил ИИ задачу - хорошо, не решил - плохо. А то, что его создатель говорит, что он обладает или не обладает сознанием - это фактически непроверяемо. Элементарно можно сказать, что ежели робот может мерять свои кинематические параметры исходя из траектории - то у него есть модель себя, стало быть, и сознание. Но с общебытовой точки зрения это с очевидностью будет чушью. Можно расширить наше определение сознания, потребовав от него ещё и модели своего мыслительного процесса, но и здесь нас поджидают трудности. Ибо, как известно, невозможно построить точную модель самоё себя. А коли так, то любая такая модель будет обладать весьма скромной описательно-прогностической ценностью.

[aridmoors.livejournal.com]

О. Я вас люблю. +1000

Не ясно что есть

[molostoff.livejournal.com]

"Мы единстенный вид животных, который имеет встроенную проблему."

У других нет этих встроенных проблем?

Re: Не ясно что есть

[nine_k]

У других есть куча других встроенных проблем :)

[icecliff.livejournal.com]

намедни мысль пришла
http://progenes.livejournal.com/7338.html?thread=6932138
мне с ней страшнее жить, чем с пониманием, что я всего лишь стог клеток, осознавших себя, ищу может ктото уже чтото писал по этому поводу.

[yurvor.livejournal.com]

Всё так и есть. Причём тут философия? :)

Только наткнулся почему-то на этот пост. Интересно, что кто-то об этом думает на высоком уровне. Здорово!

[olgaw.livejournal.com]

Это надо же, искать в гугле Метцингера, а найти Ваш текст. Мне этого Метцингера один умный человек (действительно умный) так расхвалил, как последний писк атеистической философии сознания, а судя по Вашему тексту - очередной обычный бред на тему - никого нет, все кажутся
Но я опять же кажется не посылала Вам свои ссылки, какой непростительный недочет, срочно исправляюсь

http://olgaw.livejournal.com/78604.html
http://olgaw.livejournal.com/78119.html
http://olgaw.livejournal.com/77641.html

[progenes.livejournal.com]

%-O это вы не подумавши сказали. я тут напела карузо, а вы выводы какие-то делаете. оригинал почитайте. за ваши ссылки, конечно, спасибо.

[gineer.livejournal.com]

http://en.wikipedia.org/wiki/Dunning%E2%80%93Kruger_effect

[alexander-xom.livejournal.com]

Спасибо за очень интересный пересказ Метцингера. Нет ли продолжения? )) Особенно интересует, если вы читали, как он объясняет появление самого эффекта осозанности? Как осознанности видимого "мной" (квалиа по сути), так и самого себя (хотя эти две формы мало чем отличаются - только разным объектом осознания). И происхождение сознания он как то комментирует? У меня такое ощущение, что он ушел дальше американо-австралийских аналитических философов в этом вопросе (Деннет, Чалмерс, Серл, Розенталь и т.п.), но находится в стороне от их "тренда". Надеюсь, он не одинок ))

[causa-mortalis.livejournal.com]

Обычный физикалист вроде Черчленда.

Разве что не назвал себя элиминативным материалистом, хотя стоило бы.

[nashev.livejournal.com]

Кстати, про перевод "Эго туннеля": http://alexandreev.livejournal.com/149570.html

[deep-econom.livejournal.com]

Метцингер в кратком изложении AlexNew

-> Нету "я", "я" это модель.
-> "я" существует в настоящем.
-> У нас есть модель себя.
-> Модель это прозрачна для нас, то есть мы ее не замечаем.

-> Мы моделируем себя в настоящем. Это основная идея .Идея хорошая и понятная, но не оригинальная. Мир очевидно у нас в голове, фактически все что мы знаем это и есть эта виртуальная модель.
http://dxdy.ru/post867165.html#p867165