Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (1)     Поиск:
Автор	Тема: Китайская Комната
Corwin Сообщений: 1324	Китайская Комната Добавлено: 21 ноя 06 1:39 Предлагаю обсудить здесь теорию китайской комнаты. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Китайская Комната Добавлено: 21 ноя 06 1:41 Джон Серл, профессор философии в Калифорнийском Университете в Беркли, говорил, что компьютеры не были и не смогут быть интеллектуальными. Чтоб доказать это, в 1980 году он предложил мысленный эксперимент, называемый Китайской Комнатой Предположим, у вас есть комната с прорезью в одной из стен, и внутри находится англоговорящий человек, сидящий за столом. У него есть большая книга с инструкциями и все карандаши и бумага для черновиков, которые ему как-нибудь могли бы понадобиться. Перелистывая книгу, он видит, что инструкции, написанные на английском языке, указывают ему способы манипулирования, сортировки и сравнения китайских символов. Представим себе, что указания ничего не говорят о значении китайских символов; они только задают, как символы должны быть скопированы, стерты, переупорядочены, перекодированы, и т.д. Кто-то снаружи просовывает кусочек бумаги через прорезь. На ней написан рассказ и вопросы по этому рассказу, все на китайском. Человек внутри не говорит и не читает ни слова по-китайски, но он берет бумажку и идет работать с книгой. Он трудится и трудится, следуя инструкциям в книге. В некоторых ситуациях инструкции говорят ему записывать символы на клочке бумаги, в других - перемещать и стирать символы. Применяя правило за правилом, записывая и стирая символы, человек работает до тех пор, пока инструкции из книги не скажут ему, что все готово. По окончании, наконец у него есть новая написанная им страница символов, которая без его ведома стала ответами на вопросы. Книга говорит ему передать эту бумагу через прорезь. Снаружи человек, говорящий на китайском, читает страницу. Ответы правильные, он замечает - даже проницательные. Если его спросят, исходят ли эти ответы от интеллектуального разума, он определенно скажет "да". Но прав ли он? Кто понял историю? Определенно, это не человек внутри, несведущий в китайском и понятия не имеющий, о чем история. Это не книга, которая просто хорошая книга, спокойно лежащая на письменном столе среди кипы бумаг. Сеел говорит, что никакого понимания не возникало, это всего лишь связка бессмысленного листания страниц и черкания карандашом. [Ответ][Цитата]
Dreamer Сообщений: 268	На: Китайская Комната Добавлено: 21 ноя 06 10:33 Цитата: Серл говорит, что никакого понимания не возникало, это всего лишь связка бессмысленного листания страниц и черкания карандашом. Говорит он правильно, но это вовсе не доказывает, что ИИ создать невозможно в принципе. Продолжая мысленный эксперимент, можно заметить, что книга с инструкциями, бумага, на которой пишет человек, и он сам соотносятся как коды программы, ее данные и процессор, их исполняющий. Т. е. человек выступает просто как интерпретатор, часть системы, которая, теоретически, может проявлять какую-то интеллектуальность при том, что сам он ничего не смыслит в предлагаемых текстах. Но фактически, как мы понимаем, полную инструкцию, которая могла бы создать иллюзию общения в любой области, составить невозможно, и ни понимания, ни связной речи такая система действительно не продемонстрирует. Проблема Серла, видимо, в том, что для него компьютер - только числодробилка, и представить его манипулирующим с чем-то, кроме порций чисел и рядов символов, уважаемый философ не может. Разумеется, для понимания речи необходимо владеть предметом и контекстом речи, а значит, быть в состоянии воспринимать информацию подобно человеку - через слух, зрение... Причин, по которым компьютер не был бы на это способен, я не вижу. Но, в любом случае, Серл об этом даже не заикается, и потому его "доказательство" - не более чем забавная ошибка. [Ответ][Цитата]
Dreamer Сообщений: 268	На: Китайская Комната Добавлено: 21 ноя 06 10:49 Еще немного подумал, и пришло в голову, что второй абзац предыдущего поста несколько в сторону. Пожалуй, суть проблемы Китайской комнаты не столько в способе восприятия, сколько в вопросе - может ли понимать что-то система в целом, если ничего не понимает ни один из ее элементов. Поскольку в системе могут возникать эмерджентные свойства, которыми не обладают ее компоненты, ответ - да. А эту задачку Серла, пожалуй, можно обратить против него: ведь с его точки зрения, поскольку ни один нейрон в его мозге не понимает речи, то и сам он ничего понимать не может. [Ответ][Цитата]
Андрей Сообщений: 3943	На: Китайская Комната Добавлено: 21 ноя 06 11:42 Представим другой сюжет. Человеку дают стальной лист (метр на метр) толщиной 1 см, человек его за 5 минут разгрызает и съедает. Представили? Отлично! А теперь подумайте о ценности такой фантазии если она имеет внешнее противоречие. Т.е. противоречит статистике наблюдаемых фактов. Люди не могут разгрызать стальные листы толщиной 1 см! К чему я клоню. Серл описал некую процедуру, которая на его взгляд, хотя бы теоретически, является возможной. Именно благодаря необоснованной вере в возможность такой процедуры существует не только идея "китайской комнаты" но и отряды самоотрешённых искателей смысла в текстах. Здесь налицо, набившая оскомину, ошибка. Нету ни в одном тексте той полноты, которая позволит буква за буквой, слово за словом, стирать и вписывать символы для получения ОСМЫСЛЕННОГО текста! Если книга в комнате Серла позволила по определению это сделать, значит там должны были быть прописаны такие инструкции, которые позволили бы находящемуся в комнате человеку понять смысл написанного! Т.е. выстроить в своём уме полный образный контекст описываемой ситуации. Или не в уме, а на бумаге. Или где-то в другом месте, но где-то в комнате должен был образоваться целостный образный контекст ситуации (понимание!), описанной на листочке, который просунули в комнату. И только после этого путём формальных процедур мог бы осуществиться ответ на этот контекст. Если Серл так уверен в своей правоте, пусть сделает хотя бы одну, хотя бы примитивную "китайскую комнату", тогда и подумаем. А пока что это - неудачный мысленный эксперимент с выдуманной успешностью. Ещё пример. Бывает, что человек, ничего не смыслящий в некотором предмете, вполне успешно может имитировать его понимание пока речь не зайдёт о деталях. Понимает он предмет или нет? Живой пример китайской комнаты. Он понимает нечто, но не так, как понимают это другие. Он понимает проще, абстрактнее, грубее. Чем его понимание хуже? [Ответ][Цитата]
Corwin Сообщений: 1324	На: Китайская Комната Добавлено: 21 ноя 06 13:38 Как по мне так хотя человек в комнате и не знает китайский но используя дополнительный источник информации (в данном примере книгу) может разобраться в китайском языке не хуже самого китайца. По крайней мере достаточно много людей могут разобраться в тексте написанном на чужом языке при помощи словаря. Мы ведь не будем говорить что эти люди не поняли смысла текста. Кроме того если бы человек наизусть знал книгу тогда мы без доли сомнения сказали бы что этот человек понимает текст. Он бы просто следовал инструкциям которые были бы у него в памяти. [Ответ][Цитата]
Dreamer Сообщений: 268	На: Китайская Комната Добавлено: 21 ноя 06 14:28 Цитата: Автор:Corwin Как по мне так хотя человек в комнате и не знает китайский но используя дополнительный источник информации (в данном примере книгу) может разобраться в китайском языке не хуже самого китайца. По крайней мере достаточно много людей могут разобраться в тексте написанном на чужом языке при помощи словаря. Мы ведь не будем говорить что эти люди не поняли смысла текста. Не стоит путать условия задачи Серла, в которых человеку даются только инструкции по преобразованию текста, и дополнительную информацию вроде словаря. Само собой, при наличии словаря человек может связать слова прежде незнакомой речи со сформировавшимися у него понятиями и (в той мере, в какой позволит неоднозначность речи и незнание синтаксиса) сможет что-то понять. Это очевидно. В том-то и штука, что человек в задаче сам по себе действительно не понимает того, что делает. Цитата: Автор:Corwin Кроме того если бы человек наизусть знал книгу тогда мы без доли сомнения сказали бы что этот человек понимает текст. Он бы просто следовал инструкциям которые были бы у него в памяти. Хотя на самом деле этот человек служил бы всего лишь устройством для выполнения программы, результатов деятельности которой он не понимает - так же как компьютер приносит пользу не сам по себе, а только при наличии установленного ПО. Никакой привязки смысла китайской речи к его собственным понятийным структурам у него не возникло бы. [Ответ][Цитата]
NewPoisk Сообщений: 3745	На: Китайская Комната Добавлено: 21 ноя 06 16:23 Господин Джон Серл видимо очень слабо знаком с компьютером. Вся придуманная им глубоконаучная история - на самом деле описание работы компилятора. Роль исходного текста программы играет текст китайского листка, роль синтаксического анализатора и постороителя исполняемого кода - книга с инструкциями, роль готовой программы - текст английского листка, а роль компьютера - человек в комнате. Причем здесь ИИ? >Сеел говорит, что никакого понимания не возникало, это всего лишь связка бессмысленного листания страниц и черкания карандашом. Ну надо же. Блестяще! Мои аплодисменты. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Китайская Комната Добавлено: 21 ноя 06 17:41 >Хотя на самом деле этот человек служил бы всего лишь устройством для выполнения программы Человека с самого детства учат правилам и впоследствии человек начинает эти правила выполнять (здороваться, культурно вести себя за столом, соблюдать правила этикета и тд). Вы ведь не скажите что этот человек просто выполняет программу заложенную с детства. >результатов деятельности которой он не понимает Если Вас научить решать новую для Вас математическую задачу, Вы тоже не будете понимать результаты решения? В любом случае если Вы решите несколько задач одного плана тогда научитесь понимать результаты этих задач ( Вы стаете экспертом в этой области). >Никакой привязки смысла китайской речи к его собственным понятийным структурам у него не возникло бы. Спорный вопрос. Мне кажется что у него вследствие читания такой книги могут возникнуть отдельные понятийные структуры или связи с уже существующими. Для примера человек способен воспроизвести смысл давно забытого языка просто изучая письменность этого языка. >Не стоит путать условия задачи Серла, в которых человеку даются только инструкции по преобразованию текста, и дополнительную информацию вроде словаря. По Вашему книга с инструкциями хуже словаря? В некоторых случаях такая книга может быть даже полезней. Для примера возьмем как англичанин будет переводить английский текст в русский с помощью словаря: "There are two tables in the room. There are one table in the room. There are no tables in the room" "В комнате есть два стола. В комнате есть один стол. В комнате есть ни одного стола" [Ответ][Цитата]
Dreamer Сообщений: 268	На: Китайская Комната Добавлено: 21 ноя 06 18:57 Цитата: Человека с самого детства учат правилам и впоследствии человек начинает эти правила выполнять (здороваться, культурно вести себя за столом, соблюдать правила этикета и тд). Вы ведь не скажите что этот человек просто выполняет программу заложенную с детства. Это не имеет прямого отношения к обсуждаемому вопросу, но - почему же не скажу? В определенном смысле социум действительно программирует личность, подгоняя под свои стандарты в той или иной степени. Dreamer:<результатов деятельности которой он не понимает> Corwin:<Если Вас научить решать новую для Вас математическую задачу, Вы тоже не будете понимать результаты решения? В любом случае если Вы решите несколько задач одного плана тогда научитесь понимать результаты этих задач ( Вы стаете экспертом в этой области). ---> Давайте не будем подменять вопрос. Речь идет не о понимании человеком в Китайской комнате символьных преобразований как математической задачи, а о понимании им текста, который получается в результате. Dreamer:<Никакой привязки смысла китайской речи к его собственным понятийным структурам у него не возникло бы.> Corwin:<Для примера человек способен воспроизвести смысл давно забытого языка просто изучая письменность этого языка. --> Увы, но расшифровка письменности производится не "просто изучая", а с учетом дополнительной информации - имен царей, о которых известно из исторических хроник, предметов материальной культуры, найденных в процессе раскопок, и прочего. Не стоит впадать в мистику: какие-то зацепки обязательно должны быть. Изучая голый текст, можно разобраться только в синтаксисе. Представляю себе восторг лингвиста, которому повелели разобраться в неизвестном языке _вообще_ без каких-либо зацепок Corwin:<По Вашему книга с инструкциями хуже словаря? В некоторых случаях такая книга может быть даже полезней. Для примера возьмем как англичанин будет переводить английский текст в русский с помощью словаря: (...) --> С точки зрения тех, кто, так сказать, общается с Китайской комнатой снаружи, она безусловно лучше, т. к. ответы правильней. А с точки зрения того, кто эти ответы готовит, она ничего не дает для понимания текста. [Ответ][Цитата]
Corwin Сообщений: 1324	На: Китайская Комната Добавлено: 21 ноя 06 19:40 > В определенном смысле социум действительно программирует личность, подгоняя под свои стандарты в той или иной степени. Значит нет ничего странного в том что >этот человек служил бы всего лишь устройством для выполнения программы >Давайте не будем подменять вопрос. Речь идет не о понимании человеком в Китайской комнате символьных преобразований как математической задачи Для чистого (не нагруженного знаниями интеллекта) символьные преобразования и математические задачи это одно и тоже. Не вижу где я тут что подменил. > а о понимании им текста, который получается в результате. По Вашему результат мат задачи не нужно понимать? Решая интеграл Вы получаете площадь функции. Впрочем Вы также эффективно можете решать интеграл даже не понимая его значения. Чем такое понимание мат задачи Вам не нравится? >расшифровка письменности производится не "просто изучая", а с учетом..... Ну если имена царей и предметы материальной ценности столь важны для понимания сути языка... Можете представить себе что если на бумажке есть какие-то имена или другие зацепки, то они выделены, и в дужках написано что это такое. Как я понимаю если добавить подобные комментарии тогда китайский текст станет понятен даже без помощи книги? Должен заметить что для ИИ (имеется в виду чистый ИИ) вся вводимая информация не будет иметь ни одной зацепки. > А с точки зрения того, кто эти ответы готовит, она ничего не дает для понимания текста. Моя точка зрения все же остается на том что прочитав несколько раз инструкцию по решению одной и той же задачи несколькими разными вариантами человек начинает понимать эту задачу. [Ответ][Цитата]
Стр.1 (1)