Китайська кімната

Аргуме́нт кита́йської кімна́ти стверджує, що виконання програми не може бути «розумом», «розумінням» або «свідомістю» незалежно від того, наскільки програма забезпечує комп'ютеру поведінку розумної людини. Цей аргумент був вперше представлений філософом Джоном Серлем у своїй роботі «Minds, Brains, and Programs» («Розум, мізки і програми»), опублікованій в 1980 році в журналі Behavioral and Brain Sciences. З тих пір він широко обговорювався. Центральним елементом аргументу є уявний експеримент, відомий як китайська кімната.

Аргумент спрямований проти філософських позицій функціоналізму та комп'ютерної теорії розуму, які вважають, що розум можна розглядати як систему обробки інформації, що оперує формальними символами. Зокрема, аргумент намагається спростувати позицію, яку Серль називає сильним штучним інтелектом: «Належним чином запрограмований комп'ютер з правильними вхідними і вихідними даними, матиме розум в точно такому ж сенсі, як людина має розум».

Хоча аргумент китайської кімнати спочатку був представлений у відповідь на висловлювання дослідників штучного інтелекту (ШІ), він не є аргументом проти цілей дослідження ШІ, оскільки не обмежує силу інтелекту, яку може демонструвати машина. Аргумент застосовується тільки до цифрових комп'ютерів, на яких виконуються програми, і не поширюється на машини в цілому.

Уявний експеримент

Джон серль у грудні 2005

У популярній статті «Is the Brain's Mind a Computer Program?» («Чи є мозкове мислення комп'ютерною програмою?»), опублікованій у 1990 році, Серль описує експеримент таким чином:

Візьмемо, наприклад, яку-небудь мову, якої ви не розумієте. Для мене такою мовою є китайська. Текст, написаний китайською, я сприймаю як набір безглуздих каракулів. Тепер припустимо, що мене помістили в кімнату, в якій розставлені кошики, повні китайських ієрогліфів. Припустимо також, що мені дали підручник англійською мовою, в якому наводяться правила поєднання символів китайської мови, причому правила ці можна застосовувати, знаючи лише форму символів, розуміти значення символів зовсім необов'язково. Наприклад, правила можуть твердити: «Візьміть такий-то ієрогліф з кошика номер один і помістіть його поряд з таким-то ієрогліфом з кошика номер два». Уявімо собі, що люди, які перебувають за дверима кімнати і розуміють китайську мову, передають у кімнату набори символів, і що у відповідь я маніпулюю символами відповідно до правил і передаю назад інші набори символів. У цьому випадку книга правил є не що інше, як «комп'ютерна програма». Люди, які написали її, - «програмісти», а я граю роль «комп'ютера». Кошики, наповнені символами, - це «база даних»; набори символів, що передаються до кімнати, це «питання», а набори, що виходять з кімнати, це «відповіді». Припустимо далі, що книга правил написана так, що мої «відповіді» на «питання» не відрізняються від відповідей людини, яка вільно розмовляє китайською мовою. Наприклад, люди, що знаходяться зовні, можуть передати незрозумілі мені символи, що означають: «Який колір вам більше всього подобається?» У відповідь, виконавши запропоновані правилами маніпуляції, я видам символи, на жаль, мені також незрозумілі, що означають, що мій улюблений колір синій, але мені насправді подобається зелений. Таким чином, я витримаю тест Тюрінга на розуміння китайської мови. Але все ж насправді я не розумію ані слова китайською. До того ж, я ніяк не можу навчитися цій мові у розглянутій системі, оскільки не існує жодного способу, за допомогою якого я міг би довідатися сенс хоча б одного символу. Подібно до комп'ютера, що маніпулює символами, але не може вкласти в них жодного змісту.

Серль стверджує, що без «розуміння» (або «інтенціональності») ми не можемо описати те, що робить машина як «мислення», і, оскільки вона не думає, вона не має «розуму». Тому він робить висновок, що «сильний ШІ» є помилковим.

Історія

У 1714 р. Готфрід Лейбніц зформував подібний аргумент проти механізму (позиції про те, що розум є машиною і не більше). Лейбніц використовував уявний експеримент розширення мозку, поки він не став розміром з млин. Лейбніцю було важко уявити, що «розум», здатний до «сприйняття», може бути побудований з використанням тільки механічних процесів. У короткому оповіданні 1961 року «Гра» Анатолія Дніпрова стадіон людей виступає перемикачами та осередками пам'яті, які реалізують програму перекладу фрази португальської мови, яку ніхто з них не знає. У 1974 році Лоуренс Девіс уявляв собі дублювання мозку за допомогою телефонних ліній і офісів, у яких працювали люди, і в 1978 році Нед Блок передбачив, що все населення Китаю бере участь у такому моделюванні мозку. Цей розумовий експеримент називається Китайський мозок, також "китайська нація" або "китайський тренажерний зал".

Аргумент китайської кімнати був введений в 1980 році в документі Серля "Minds, Brains, and Programs" ("Розум, мозок і програми"), опублікований в журналі Behavioral and Brain Sciences. У підсумку вона стала "найвпливовішою цільовою статтею" журналу, яка генерувала величезну кількість коментарів і відповідей у ​​наступні десятиліття, і Серль продовжував захищати і уточнювати аргумент у багатьох статтях і книгах. Девід Коул пише, що "аргумент китайської кімнати, ймовірно, був найбільш широко обговорюваним філософським аргументом у когнітивній науці, який з'явився за останні 25 років".

Більшість дискусій складається зі спроб спростування аргументу. "Переважна більшість, - відзначає редактор BBS Стеван Харнад, - як і раніше думає, що китайський аргумент кімнати мертвий". Об'єм літератури, що виріс навколо дискусії, надихнув Пата Хейса на коментар, що поле когнітивної науки має бути переосмислено як "триваюча дослідницька програма, яка показує, що аргумент китайської кімнати Серля є помилковим".

Аргумент Серля став "чимось класичним у когнітивній науці", стверджує Харнад. Варол Акман погодився і охарактеризував оригінальну статтю як «зразок філософської чіткості і чистоти».

Філософія

Хоча аргумент китайської кімнати спочатку був представлений у відповідь на висловлювання дослідників інтелектуальної власності, філософи стали розглядати його як важливу частину філософії свідомості. Це виклик функціоналізму і теорії комп'ютерного розуму, і пов'язаний з такими питаннями, як проблема розум-тіло, проблема інших розумів, проблема-заземлення, і важка проблема свідомості.

Сильний ШІ

Серль визначив філософську позицію, яку він називає "сильним ШІ":

Належним чином запрограмований комп'ютер з правильними входами і виходами, таким чином, матиме розум в точно такому ж сенсі, як люди мають розум.

Визначення залежить від відмінності між імітацією розуму та реальним розумом. Серль пише, що "згідно з Сильним ШІ, правильне моделювання дійсно є розумом. Згідно зі Слабким ШІ, правильне моделювання є моделлю розуму".

Ця позиція випливає з деяких висловлювань дослідників та аналітиків раннього ШІ. Наприклад, у 1955 році засновник AI Герберт А. Саймон заявив, що "зараз у світі є машини, які думають, що навчаються і створюють" і стверджують, що вони "вирішили поважну проблему розуму і тіла", пояснюючи, як система, що складається з матерії, може володіти властивостями розуму." Джон Хегленд писав, що "ШI хоче тільки справжню статтю: машини з розумом, в повному і буквальному сенсі. Це не наукова фантастика, а реальна наука, що ґрунтується на теоретичній концепції настільки глибокій, наскільки вона є сміливою, а саме, ми, насамперед, самі є комп'ютерами».

Серль також приписує наступні позиції захисникам сильного ШІ:

• Системи штучного інтелекту можна використовувати для пояснення розуму;
• Вивчення мозку не має відношення до вивчення розуму;
• Тест Тьюрінга є достатнім для встановлення існування психічних станів.

Сильний ШІ, як комп'ютерна теорія розуму або функціоналізм

У більш пізніх презентаціях аргументу китайської кімнати, Серль визначив "сильний ШI" як "комп'ютерний функціоналізм" (термін він приписує Даніелю Деннетту). Функціоналізм - це позиція в сучасній філософії свідомості, яка передбачає, що ми можемо визначати психічні явища (такі як вірування, бажання і сприйняття), описуючи їхні функції по відношенню один до одного і до зовнішнього світу. Згідно з функціоналізмом, оскільки комп'ютерна програма може точно представляти функціональні відносини як відносини між символами, комп'ютер може мати психічні явища, якщо він виконує правильну програму.

Стівен Харнад стверджує, що уявлення Серля про сильний ШI можна переформулювати як "впізнавані принципи обчислювальної діяльності, позиція (на відміну від "сильного ШI"), якої фактично дотримуються багато мислителів, і отже, ця позиція варта спростування. Комп'ютерна теорія розуму це позиція у філософії розуму, яка стверджує, що розум можна точно описати як систему обробки інформації.

Кожен з наступних пунктів, на думку Харнада, є "принципом" комп'ютерної теорії розуму:

• Психічні стани є обчислювальними станами (тому комп'ютери можуть мати психічні стани і допомагати пояснити розум);
• Обчислювальні стани є незалежним від реалізації - інакше кажучи, саме програмне забезпечення визначає обчислювальний стан, а не апаратні засоби (тому мозок, будучи апаратним, не має значення);
• Оскільки реалізація не має значення, єдині емпіричні дані, які мають значення, це як функціонує система; отже, тест Тьюрінга є остаточним.

Сильний ШІ проти біологічного натуралізму

Серль займає філософську позицію, яку він називає «біологічним натуралізмом»: свідомість і розуміння вимагають особливого біологічного механізму, який міститься в мозку. Він пише «мозок викликає думку» і що «фактичні людські психічні явища залежать від реальних фізико-хімічних властивостей реальних людських мізків». Серль стверджує, що цей механізм (відомий нейронауці як "нейронні кореляти свідомості") повинен мати деякі (невизначені) "причинні сили", які дозволяють людському досвіду бути свідомостю. Віра Серля в існування цих повноважень була піддана критиці.

Серль погоджується з тим, що машини можуть мати свідомість і розуміння, тому що, як він пише, «ми є саме такими машинами». Серль вважає, що мозок, по суті, є машиною, але він дає початок свідомості і розуміння, використовуючи механізми, які не є обчислювальними. Якщо неврологія здатна ізолювати механічний процес, який породжує свідомість, то Серль надає можливість створити машини, які мають свідомість і розуміння. Однак, без специфічної техніки, Серль не вірить, що свідомість можна відтворити.

Біологічний натуралізм передбачає, що неможливо визначити, чи можна створити свідомість лише шляхом вивчення того, як функціонує система, оскільки особлива техніка головного мозку є суттєвою. Таким чином, біологічний натуралізм прямо протистоїть як біхевіоризму, так і функціоналізму (включаючи «комп'ютерний функціоналізм» або «сильний ШІ»). Біологічний натуралізм подібний до теорії ідентичності (положення, що психічні стани "ідентичні" або "складаються з" неврологічних подій); однак, Серль має специфічні технічні заперечення проти теорії тотожності. Біологічний натуралізм Серля і сильний ШІ протиставляються декартовому дуалізму, класичній ідеї про те, що мозок і розум складаються з різних "речовин". Дійсно, Серль звинувачує сильний ШI в дуалізмі, пишучи, що «сильний ШI має сенс лише з огляду на дуалістичне припущення, що там, де розум стурбований, мозок не має значення».

Свідомість

Оригінальна презентація Серля підкреслювала «розуміння» - тобто, психічні стани, які філософи називають «інтенціональністю», і безпосередньо не зверталися до інших тісно пов'язаних ідей, таких як «свідомість». Однак у більш пізніх презентаціях Серль включив свідомість як справжню мету аргументу.

	Моделі комп'ютерної теорії розуму самі по собі недостатні для свідомості. Комп'ютерна теорія розуму ґрунтується на свідомості так само, як обчислювальна модель чого-небудь ґрунтується на модельованому домені. Ніхто не припускає, що обчислювальна модель дощів у Лондоні залишить нас мокрими. Але вони роблять помилку, вважаючи, що комп'ютерна теорія розуму має якусь свідомість. Це одна й та ж помилка в обох випадках.
— Джон Р. Серль, Свідомість і мова, с. 16

Девід Чалмерс пише: "цілком зрозуміло, що свідомість знаходиться в корені питання" китайської кімнати.

Колін Макгінн стверджує, що китайська кімната надає вагомі докази того, що важка проблема свідомості є принципово нерозв'язною. Аргумент, щоб бути зрозумілим, полягає не в тому, чи може машина бути свідомою, а в тому, чи може він (або що-небудь інше) бути свідомим. Зрозуміло, що будь-який інший метод перевірки окупанта китайської кімнати має такі ж принципові труднощі, як обмін питаннями і відповідями на китайській мові. Це просто неможливо визначити, чи є у приміщенні хтось свідомий або якесь розумне моделювання.

Серль стверджує, що це справедливо лише для спостерігача поза кімнатою. Вся думка експерименту полягає в тому, щоб помістити людину всередину кімнати, де вони можуть безпосередньо спостерігати за операціями свідомості. Серль стверджує, що з його точки зору в кімнаті немає нічого, що, на його погляд, могло бути свідомістю, крім себе, і явно не має розуму, який може говорити по-китайськи.

Прикладна етика

Патрік Хью використовував аргумент китайської кімнати, щоб вивести вимоги від військових систем управління і командування, якщо вони хочуть зберегти моральне керівництво командира. Він провів аналогію між командувачем у їхньому командному центрі і людиною в китайській кімнаті і проаналізував її читаючи поняття Арістотеля про "обов'язки" і "незнання". Інформація може бути "перетворена" з сенсу в символи і маніпулюватися символічно, але моральне втручання могло бути підірване, якщо було неадекватне "перетворення" в сенс. Хью цитував приклади інциденту USS Vincennes.

Інформатика

Аргумент китайської кімнати - це, перш за все, аргумент у філософії свідомості, і як головні дослідники у сфері інформатики, так і дослідники штучного інтелекту вважають це незначним для їхніх галузей. Однак, кілька концепцій, розроблених вченими у сфері інформатики, мають важливе значення для розуміння аргументу, включаючи обробку символів, машини Тьюрінга, повноту Тьюрінга і тест Тьюрінга.

Сильний ШІ проти дослідження ШІ

Аргументи Серля зазвичай не розглядаються як питання для дослідження ШІ. Стюарт Рассел і Пітер Норвіг зауважують, що більшість дослідників інтелектуальної власності "не піклуються про сильну гіпотезу ШІ - до тих пір, поки програма працює, їм не важливо, чи називаєте ви це імітацією інтелекту або реальним інтелектом". Основна місія дослідження штучного інтелекту полягає лише в тому, щоб створити корисні системи, які діють розумно, і це не має значення, якщо інтелект є «просто» імітацією.

Серль не погоджується з тим, що дослідження ШІ можуть створювати машини, здатні до високоінтелектуальної поведінки. Аргумент китайської кімнати залишає відкритою можливість того, що може бути побудована цифрова машина, яка діє більш розумно, ніж людина, але не має розуму або інтенціональності так само, як це робить мозок. Аргумент китайської кімнати не є доведеним до абсурду, а є прикладом, який вимагає пояснення.

"Сильний ШІ" Серля не слід плутати із "сильним ШІ", як це визначено Реймондом Курцвейлом та іншими футуристами, які використовують цей термін для опису машинного розуму, який конкурує або перевершує людський інтелект. Курцвейл спирається, головним чином, на кількість інтелекту, що відображається машиною, тоді як аргумент Серля не обмежує цього. Серль стверджує, що навіть супер-розумна машина не обов'язково має розум і свідомість.

Тест Тьюрінга

"Стандартна інтерпретація" тесту Тьюрінга, в якій гравець C, опитувальник, має завдання спробувати визначити, який гравець - A або B - це комп'ютер і який є людиною. Слідчий обмежується використанням відповідей на письмові запитання, щоб зробити визначення

Китайська кімната реалізує варіант тесту Тьюрінга. Алан Тьюрінг ввів тест в 1950 році, щоб допомогти відповісти на питання «чи може машина мислити?» У стандартній версії, людина-суддя бере участь в розмові на природній мові з людиною і машиною, призначеної для генерації продуктивності неотличимой від людських істот. Всі учасники розділені один від одного. Якщо суддя не може надійно відрізнити машину від людини, машина, як кажуть, пройшла тест.

Тьюрінг потім розглянув кожні з можливих заперечень проти пропозиції «машини можуть думати», і виявив, що є прості, очевидні відповіді, якщо питання де-спантеличені таким чином. Він, однак, не призначається для випробування вимірювання наявності «свідомості» або «розуміння». Він не вірив, що це ставлення до проблем, з якою він звертався. Він писав:

Я не хочу створити враження, що я думаю, що немає ніякої таємниці свідомості. Існує, наприклад, щось схоже на парадокс, пов'язаний з будь-якими спробами локалізувати його. Але я не думаю, що ці таємниці обов'язково повинні бути вирішені перш, ніж ми можемо відповісти на питання, які турбують нас в цій статті.

Для Серля, як філософа, який працює в галузі розуму і свідомості, це відповідні таємниці. Китайська кімната призначена, щоб показати, що тест Тьюрінга є недостатнім для виявлення присутності свідомості, навіть якщо в кімнаті може бути машина, що функціонує як свідомий розум.

Обробка символів

Китайська кімната (і всі сучасні комп'ютери) маніпулює фізичними об'єкти для того, щоб проводити розрахунки і робити моделювання. Дослідники штучного інтелекту Аллен Ньюелл і Герберт А. Саймон назвали це свого роду машиною, фізичною системою символів. Це еквівалентно також формальним системам, використовуваних в галузі математичної логіки.

Серль підкреслює той факт, що подібного роду маніпуляції символами є синтаксичними (запозичуючи термін з вивчення граматики). Комп'ютер маніпулює символами, використовуючи форму синтаксичних правил, без яких-небудь знань про семантику символів (тобто їх зміст).

Ньюелл і Саймон припустив, що фізична система символів (наприклад, цифровий комп'ютер) мав все необхідне обладнання для «загальної інтелектуальної дії», або, як це відомо сьогодні, загальний штучний інтелект. Вони описали це як філософську позиція, гіпотези фізичної системи символів: «Фізична система символу має необхідні і достатні умови для загальнї інтелектуальної дії». Аргумент китайської кімнати не спростовує це, тому що він оформлений з точки зору «розумних дій», тобто зовнішня поведінка машини, а не наявність або відсутність розуміння свідомості і розуму.

Китайська кімната та Тьюрінгова повнота

Китайська кімната має конструкцію, аналогічну сучасному комп'ютеру. Вона має архітектуру фон Неймана, яка складається з програми (книг інструкцій), деяка кількість пам'яті (паперу і картотека), процесор, який слідує інструкціям (людина), і засіб для запису символів в пам'яті (олівець і ластик). Машина цієї конструкції відома в області теоретичної інформатики як «Тьюрінгова», тому що вона має необхідний механізм для виконання будь-яких обчислень, що машина Тьюрінга може зробити, і, отже, вона здатна робити крок за кроком моделювання будь-якого іншого цифрового апарату, враховуючи достатню кількість пам'яті і часу. Алан Тьюрінг пише: «всі цифрові комп'ютери в певному сенсі еквівалентні." Широко прийнята Теза Черча-Тьюрінга стверджує, що будь-яка функція обчислюється за допомогою ефективної процедури обчислення на машині Тьюрінга.

Тьюрінгова повнота китайської кімнаті означає, що вона може робити все, що будь-який інший цифровий комп'ютер може зробити (хоча і набагато, набагато повільніше). Таким чином, якщо китайська кімната не містить чи не може містити китайськомовного розуму, то ніякий інший цифровий комп'ютер не може містити розум. Деякі відповіді Серль починає, стверджуючи, що в кімнаті, як описано вище, може не бути китайськомовного розуму. Аргументи цієї форми, відповідно до Стівена Харнада, є «не спростуванням (а швидше твердженням)» аргументу китайської кімнати, тому що ці аргументи фактично означають, що ніякі цифрові комп'ютери не можуть мати розум.

Є деякі критики, такі як Енох Бен-Ямі, які стверджують, що китайська кімната не може навіть емітувати всі можливості цифрового комп'ютера, наприклад, не маючи змоги визначити поточний час.

Формалізація

Джон Серль випустив більш формальний варіант аргументу, частиною якого є китайська кімната. Першу версію він представив у 1984 році. Версія, наведена нижче, починається з 1990 року.

(A1) "Програми є формальними (синтаксичними)."

Програма використовує синтаксис для керування символами і не звертає уваги на семантику символів. Вона знає, куди покласти символи і як їх перемістити, але вона не знає, нащо вони потрібні або що вони означають. Для програми символи - це тільки фізичні об'єкти, як і будь-які інші.

(A2) "Розуми мають розумовий зміст (семантика)".

На відміну від символів, що використовуються програмою, наші думки мають сенс: вони представляють речі, і ми знаємо, що вони представляють.

(A3) "Синтаксис сам по собі не є ні конститутивним, ні достатнім для семантики".

Це те, що уявний експеримент китайської кімнати має намір довести: китайська кімната має синтаксис (тому що є людина серед символів навколо). Китайська кімната не має семантики (тому що, за словами Серля, в кімнаті немає нічого або нікого, що розуміє, що означають символи). Таким чином, наявність синтаксису недостатньо для створення семантики.

Серль стверджує, що це веде безпосередньо до такого висновку:

(С1) Програми не є ні конститутивними, ні достатніми для розуму.

Це має бути вірним без розбіжностей з першими трьома аксіомами: програми не мають семантики. Програми мають тільки синтаксис, а синтаксис недостатній для семантики. Кожен розум має семантику. Тому ніякі програми не є свідомістю.

Такий аргумент має на меті показати, що штучний інтелект ніколи не може створити машину з розумом, написавши програми, які маніпулюють символами. Решта аргументів стосуються іншого питання. Чи працює людський мозок? Іншими словами, чи є обчислювальна теорія розуму правильною? Він починає з аксіоми, яка покликана висловити основний сучасний науковий консенсус про мозок і розум:

(A4) Мозок породжує розум.

Серль стверджує, що ми можемо "негайно" і "тривіально" вивести те, що

(С2) Будь-яка інша система, здатна викликати розум, повинна мати причинну силу (принаймні), еквівалентну мозковим.

Мозок повинен мати те, що викликає існування розуму. Наука ще має точно визначити, що це таке, але воно повинне існувати, тому що розум існує. Серль називає це "причинними силами". "Причинні сили" - це те, що використовує мозок для створення розуму. Якщо щось інше може викликати існування розуму, воно має мати "еквівалентні причинні сили". "Еквівалентні причинно-наслідкові сили" - це те, що можна використовувати для розуму.

І з цього він виводить наступні висновки:

(C3) Будь-який артефакт, який створював психічні явища, будь-який штучний мозок, повинен мати можливість копіювати конкретні причинні сили мозку, і це не можна зробити просто шляхом проведення формальної програми.

Це випливає з С1 і С2: Оскільки жодна програма не може створити розум, а "еквівалентні причинні сили" створюють розуми, випливає, що програми не мають "еквівалентних причинних сил".

(C4) Шлях за яким людський мозок насправді створює психічні явища не може бути відтворений виключно завдяки запуску комп'ютерної програми.

Дискусія

Уявний експеримент викликав інтенсивну дискусію серед учених. Існують різні аргументи проти результатів, отриманих Серлем:

• Деякі критики вважають, що тест Тюрінга витримує не людина, а система, що складається з кімнати, книги правил і людини. Серль, на їхню думку, відволікає увагу від цього факту, концентруючись на одному з компонентів системи, що виконує в даному випадку чисто механічну роботу. Система з книги правил, людини і кімнати, на їхню думку, є розумною і розуміє китайську мову.

• Інша думка полягає в тому, що жодної семантики не існує в принципі: все, що відбувається в мозку, всього лише маніпулювання синтаксисом, яке здійснюється і в комп'ютерах.

• На думку Станіслава Лема, розуміння у самій "китайської кімнаті " дійсно не існує, але воно є в мозку її творця — того, хто розробив систему правил поводження з ієрогліфами для учасника експерименту. «Робота завжди асемантично формальна», і це не може бути підставою говорити про відсутність розуміння. Автор експерименту повинен був заздалегідь передбачити всі комбінації питань і відповідей або придумати принцип добору відповіді на запитання. У реальних умовах при створенні передбачуваного штучного інтелекту навряд чи таке буде можливо.

Посилання

• Alder, Mike (2004). Newton's Flaming Laser Sword. Philosophy Now. 46: 29—33. Архів оригіналу за 26 березня 2018. Also available at Newton's Flaming Laser Sword (PDF). Архів оригіналу (PDF) за 14 November 2011.
• Ben-Yami, Hanoch (1993), A Note on the Chinese Room, Synthese, 95 (2): 169—72, doi:10.1007/bf01064586
• Block, Ned (1981), Psychologism and Behaviourism, The Philosophical Review, 90 (1): 5—43, CiteSeerX 10.1.1.4.5828, doi:10.2307/2184371, JSTOR 2184371
• Chalmers, David (30 March 1996), The Conscious Mind: In Search of a Fundamental Theory, Oxford University Press, ISBN 978-0-19-983935-3
• Churchland, Paul; Churchland, Patricia (January 1990), Could a machine think?, Scientific American, 262 (1): 32—39, Bibcode:1990SciAm.262a..32C, doi:10.1038/scientificamerican0190-32, PMID 2294584
• Cole, David (Fall 2004), The Chinese Room Argument, у Zalta, Edward N. (ред.), The Stanford Encyclopedia of Philosophy

  Page numbers above refer to a standard pdf print of the article.

• Crevier, Daniel (1993). AI: The Tumultuous Search for Artificial Intelligence. New York, NY: BasicBooks. ISBN 0-465-02997-3.
• Dennett, Daniel (1991), Consciousness Explained, The Penguin Press, ISBN 978-0-7139-9037-9
• Dreyfus, Hubert (1979), What Computers Still Can't Do, New York: MIT Press, ISBN 978-0-262-04134-8
• Fearn, Nicholas (2007), The Latest Answers to the Oldest Questions: A Philosophical Adventure with the World's Greatest Thinkers, New York: Grove Press
• Harnad, Stevan (2001), What's Wrong and Right About Searle's Chinese Room Argument, у M.; Preston, J. (ред.), Views into the Chinese Room: New Essays on Searle and Artificial Intelligence, Oxford University Press

Page numbers above refer to a standard pdf print of the article.

• Harnad, Stevan (2005), Searle's Chinese Room Argument, Encyclopedia of Philosophy, Macmillan

Page numbers above refer to a standard pdf print of the article.

• Haugeland, John (1985), Artificial Intelligence: The Very Idea, Cambridge, Mass.: MIT Press, ISBN 978-0-262-08153-5
• Haugeland, John (1981), Mind Design, Cambridge, Mass.: MIT Press, ISBN 978-0-262-08110-8
• Hauser, Larry (2006), Searle's Chinese Room, Internet Encyclopedia of Philosophy

Page numbers above refer to a standard pdf print of the article.

• Kurzweil, Ray (2005), The Singularity is Near, Viking Press
• Horst, Steven (Fall 2005), The Computational Theory of Mind, у Zalta, Edward N. (ред.), The Stanford Encyclopedia of Philosophy
• Leibniz, Gottfried (1714), Monadology, George MacDonald Ross (trans.), архів оригіналу за 3 липня 2011
• Moravec, Hans (1988), Mind Children: The Future of Robot and Human Intelligence, Harvard University Press

• Minsky, Marvin (1980), Decentralized Minds, Behavioral and Brain Sciences, 3 (3): 439—40, doi:10.1017/S0140525X00005914
• McGinn, Collin (2000), The Mysterious Flame: Conscious Minds In A Material World, Basic Books, с. 194, ISBN 978-0786725168
• Moor, James, ред. (2003), The Turing Test: The Elusive Standard of Artificial Intelligence, Dordrecht: Kluwer Academic Publishers, ISBN 978-1-4020-1205-1

• Motzkin, Elhanan; Searle, John (16 лютого 1989), Artificial Intelligence and the Chinese Room: An Exchange, New York Review of Books
• Newell, Allen; Simon, H. A. (1976), Computer Science as Empirical Inquiry: Symbols and Search, Communications of the ACM, 19 (3): 113—126, doi:10.1145/360018.360022
• Nikolić, Danko (2015), Practopoiesis: Or how life fosters a mind, Journal of Theoretical Biology, 373: 40—61, arXiv:1402.5332, doi:10.1016/j.jtbi.2015.03.003, PMID 25791287
• Nilsson, Nils (1984), A Short Rebuttal to Searle (PDF)
• Russell, Stuart J.; Norvig, Peter (2003), Artificial Intelligence: A Modern Approach (англ.) (вид. 2nd), Upper Saddle River, New Jersey: Prentice Hall, ISBN 0-13-790395-2
• Pinker, Steven (1997), How the Mind Works, New York, NY: W. W. Norton & Company, Inc., ISBN 978-0-393-31848-7

• Preston, John; Bishop, Mark, ред. (2002), Views into the Chinese Room: New Essays on Searle and Artificial Intelligence, Oxford University Press, ISBN 978-0-19-825057-9

• Saygin, A. P.; Cicekli, I.; Akman, V. (2000), Turing Test: 50 Years Later (PDF), Minds and Machines, 10 (4): 463—518, doi:10.1023/A:1011288000451. Reprinted in Moor, (2003, с. 23—78).
• Searle, John (1980), Minds, Brains and Programs, Behavioral and Brain Sciences, 3 (3): 417—457, doi:10.1017/S0140525X00005756, архів оригіналу за 10 грудня 2007, процитовано 13 травня 2009

Page numbers above refer to a standard pdf print of the article. See also Searle's original draft.

• Searle, John (1983), Can Computers Think?, у Chalmers, David (ред.), Philosophy of Mind: Classical and Contemporary Readings, Oxford: Oxford University Press, с. 669—675, ISBN 978-0-19-514581-6
• Searle, John (1984), Minds, Brains and Science: The 1984 Reith Lectures, Harvard University Press, ISBN 978-0-674-57631-5 paperback: ISBN 0-674-57633-0.
• Searle, John (January 1990), Is the Brain's Mind a Computer Program?, Scientific American, т. 262, № 1, с. 26—31, Bibcode:1990SciAm.262a..26S, doi:10.1038/scientificamerican0190-26, PMID 2294583
• Searle, John (1990), Is the Brain a Digital Computer?, Proceedings and Addresses of the American Philosophical Association, 64 (November): 21—37, doi:10.2307/3130074, JSTOR 3130074, архів оригіналу за 14 листопада 2012 {{citation}}: Cite має пустий невідомий параметр: |df= (довідка)
• Searle, John (1992), The Rediscovery of the Mind, Cambridge, Massachusetts: M.I.T. Press, ISBN 978-0-262-26113-5
• Searle, John (1999), Mind, language and society, New York, NY: Basic Books, ISBN 978-0-465-04521-1, OCLC 231867665
• Searle, John (1 November 2004), Mind: a brief introduction, Oxford University Press, Inc., ISBN 978-0-19-515733-8
• Searle, John (2002), Consciousness and Language, Cambridge University Press, с. 16, ISBN 978-0521597449
• Searle, John (2009), Chinese room argument, Scholarpedia, 4 (8): 3100, Bibcode:2009SchpJ...4.3100S, doi:10.4249/scholarpedia.3100{{citation}}: Обслуговування CS1: Сторінки із непозначеним DOI з безкоштовним доступом (посилання)
• Turing, Alan (October 1950), Computing Machinery and Intelligence, Mind (англ.), LIX (236): 433—460, doi:10.1093/mind/LIX.236.433, ISSN 0026-4423

Page numbers above refer to a standard pdf print of the article.

• Yee, Richard (1993), Turing Machines And Semantic Symbol Processing: Why Real Computers Don't Mind Chinese Emperors (PDF), Lyceum, 5 (1): 37—59

Page numbers above and diagram contents refer to the Lyceum pdf print of the article.

Література

• Searle, John. R. (1980) Minds, brains, and programs. Behavioral and Brain Sciences 3 (3): 417—457 (Джон Серль, Стаття «Розум, мозок і програми», 1980)
• Джон Серль, книга «Minds, Brains, and Science» («Розуми, мізки і наука», 1984)
• Стать М. Черчленд і Патріція Сміт Черчленд («Чи може машина мислити?», «У світі науки», 1990, № 3, с. 14)
• Searle, John. R. Is the Brain's Mind a Computer Program. Scientific American, Jan. 1990, pp. 26-31 (Джон Сирл, стаття «Розум мозку — комп'ютерна програма ?» (рос.) «У світі науки», 1990, № 3 , с. 7-13)