Сильний штучний інтелект

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до навігації Перейти до пошуку

Сильний штучний інтелект (СШІ), або загальний штучний інтелект, або штучний генералізований інтелект (AGI) — штучний інтелект, який може успішно виконати будь-яку інтелектуальну задачу, котру може виконати людина. Це головна мета деяких досліджень штучного інтелекту, тема наукової фантастики та майбутніх досліджень. Слабкий штучний інтелект, на відміну від сильного, не намагається виконати повний спектр людських когнітивних здібностей.

На відміну від вузьких систем штучного інтелекту, які призначені для виконання конкретних завдань, системи AGI розробляються таким чином, щоб адаптуватися, вчитися на досвіді та застосовувати свої знання в нових і незнайомих ситуаціях. AGI має потенціал для революції в багатьох галузях, від охорони здоров’я та фінансів до транспорту та освіти. Однак розробка AGI також представляє значні проблеми, включаючи визначення інтелекту, формування людських когнітивних здібностей і забезпечення безпеки та етичного використання інтелектуальних машин. Незважаючи на ці проблеми, розробка AGI залишаються одним із найбільш захоплюючих і перспективних напрямків досліджень у галузі ШІ.[1]

На відміну від розвитку людського інтелекту, який розвивався десятками тисяч років, Сильний ШІ зможе розвиватись майже експоненціально — за долі секунди перевершити здібності людського розуму в десятки-тисячи-мільйони разів.

Момент в майбутній історії, коли ШІ перевершить людський розум називається "технологічною сингулярністю". Що буде після технологічної сингулярності неможливо передбачити, оскільки людство ще ніколи не мало справу з чимось набагато розумнішим і потужнішим за людський розум. На думку футуролога Рея Курцвейля людство досягне Сильного ШІ людського рівня у 2029 році. На думку Ілона Маска — у 2025 році[2][3].

Історія[ред. | ред. код]

Поняття загального штучного інтелекту (AGI) можна простежити до витоків галузі штучного інтелекту у 1950-х роках. Ранні дослідники штучного інтелекту, зокрема Джон Маккарті, Марвін Мінський та Клод Шеннон, уявляли собі створення розумних машин, здатних виконувати будь-яке інтелектуальне завдання, яке може виконувати людина. Однак розробка AGI виявилася серйозною проблемою, і прогрес у цій галузі був повільним у перші десятиліття.

У 1990-х роках галузь AGI набрала обертів із появою кількох ключових досліджень та ініціатив. Примітно, що Даг Ленат заснував проект Cyc у 1984 році, який мав на меті створити всеохоплюючу базу знань, яку система AGI могла б використовувати для міркування про світ. У 1993 році Бен Герцель заснував дослідницький інститут загального штучного інтелекту (AGIRI), який об’єднав дослідників із різних галузей для роботи над проблемами AGI. Маркус Хаттер розробив математичну структуру для AGI під назвою AIXI, яка забезпечила теоретичну основу для систем AGI.

У 2000-х роках дослідження AGI продовжували розвиватися завдяки зростанню обчислювальної потужності та наявності великих наборів даних. У 2005 році було засновано Singularity Institute for Artificial Intelligence (нині відомий як Machine Intelligence Research Institute), який зосередився на суспільних наслідках розвитку AGI. У 2008 році Асоціація з розвитку штучного інтелекту (AAAI) запустила серію конференцій з AGI, яка стала головною конференцією з досліджень AGI.

Зовсім недавно прориви в машинному навчанні, глибокому навчанні та навчанні з підкріпленням підняли дослідження AGI на нові висоти. Такі компанії, як Google, OpenAI (ця стаття написана з допомогою ChatGPT) і DeepMind, досягли значних успіхів у розробці систем AGI, здатних перевершити людей у ​​таких завданнях, як розпізнавання зображень, обробка природної мови та гра в ігри. Однак AGI залишається поки недосяжною метою, і залишаються значні проблеми у визначенні інтелекту, формуванні людських когнітивних здібностей і забезпеченні безпеки та етичного використання. Тим не менш, пошуки AGI продовжують надихати дослідників з різних галузей, і майбутнє досліджень AGI виглядає багатообіцяючим.[1]

Термін «Artificial General Intelligence» ввів Джон Серль, його ж словами підхід характеризується:

Мета полягає в тому, аби створити програми, здатні моделювати людське мислення таким чином, щоб витримувати тест Тьюрінга. Більш того, така програма буде не просто моделлю розуму; вона в буквальному розумінні слова сама й буде розумом, в тому ж сенсі, в якому людський розум — це розум.[4]

Виклики та можливості[ред. | ред. код]

Загальний штучний інтелект (AGI) є складною та комплексною сферою, яка відкриває значні можливості, але потребує вирішення і значних викликів, для розвитку AGI.[1]

Виклики[ред. | ред. код]

  • Визначення інтелекту. Одним із найбільших викликів у AGI є визначення інтелекту. Немає єдиної думки щодо того, що таке інтелект, і навіть якби він був, незрозуміло, як його можливо виміряти в машинах.
  • Розвиток когнітивних здібностей, подібних до людських. Іншим значним викликом у AGI є формування когнітивних здібностей, подібних до людських, таких як креативність, емпатія та здоровий глузд. Ці здібності важко запрограмувати в машинах і вимагають глибокого розуміння людського пізнання.
  • Забезпечення безпеки та етичного використання. Розробка безпечних та етичних систем AGI є надзвичайно важливою, враховуючи потенційний вплив, який ці системи можуть мати на суспільство. Є занепокоєння щодо небажаних наслідків роботи розумних машин і можливості їх використання для шкідливих цілей.
  • Обчислювальна потужність і дані: AGI вимагає величезних обсягів даних і обчислювальної потужності, отримання та керування якими може бути серйозною проблемою.
  • Узагальнення та передача навчання: системи AGI повинні мати можливість узагальнювати знання для ряду завдань і переносити ці знання в нові ситуації. Це складна проблема, і сучасні підходи до машинного навчання борються з узагальненням і трансферним навчанням.
  • Стійкість і надійність: системи AGI повинні бути стійкими та надійними, тобто вони повинні бути здатними впоратися з несподіваними ситуаціями та помилками. Це особливо складно в динамічному та непередбачуваному середовищі.
  • Можливість пояснення та інтерпретації: системи AGI мають бути прозорими та доступними для пояснення, тобто їхні рішення та міркування мають бути зрозумілими та інтерпретованими для людей. Це важливо для безпеки, відповідальності та довіри.
  • Взаємодія «людина-машина». Системи AGI мають бути розроблені для взаємодії з людьми природним та інтуїтивно зрозумілим способом, що вимагає розуміння людського спілкування та поведінки.
  • Вартість і доступність: розробка AGI дорога, а доступ до ресурсів обмежений. Це може створити нерівність у дослідженнях і розробках AGI і обмежити їх доступність для певних груп або країн.

Можливості[ред. | ред. код]

Незважаючи на ці виклики та можливості, дослідження AGI продовжують швидко розвиватися, а дослідники з різних галузей працюють над вирішенням фундаментальних проблем AGI. Цілком імовірно, що розвиток AGI матиме значні наслідки для майбутнього людства, як позитивні, так і негативні, і дуже важливо, щоб ми підходили до його розвитку з свідомою увагою та поміркованністю. Важливо, щоб розробка AGI здійснювалась відповідально, зосереджуючись на безпеці, етиці та добробуті всіх людей.[1]

Характеристики[ред. | ред. код]

Сильний ШІ повинен не поступатися людському інтелекту або й перевершувати його; міркувати, покладаючись на стратегію; розгадувати таємниці та приймати судження в умовах невизначеності; представляти знання, включаючи знання здорового глузду; планувати; вчитися; спілкуватися природною мовою та інтегрувати всі ці навички до прикладних цілей[5][6][7][8]. Іншими важливими характеристиками СШІ вказуються здатність діяти, покладаючись на відчуття реальності, та впливати на фізичні об'єкти[9]. А також здатність уявляти, формуючи образи чи поняття, не закладені наперед[10], і діяти незалежно від інтелекту, що створив цей СШІ[11].

Створення сильного штучного інтелекту може дати відповідь на питання щодо природи інтелекту людського: є він суто механістичним, або ж вимагає певного надприродного компонента, який неможливо відтворити штучно[12]. Деякі трансгуманісти та біохакери очікують можливість об'єднання мозку з сильним штучним нтелектом за допомогою нейро-компьютерного інтерфейсу в кінці 2020-тих–на початку 2030-х років[3].

Когнітивна архітектура[ред. | ред. код]

Когнітивна архітектура є ключовим компонентом загального штучного інтелекту (AGI), що забезпечує основу для розробки інтелектуальних систем, які можуть міркувати, навчатися та адаптуватися до нових ситуацій. За своєю суттю когнітивна архітектура прагне моделювати когнітивні процеси людського мозку, забезпечуючи основу для розуміння того, як працюють інтелектуальні системи та як їх можна вдосконалити.[1]

Існує багато різних підходів до когнітивної архітектури, причому деякі дослідники зосереджуються на символічних системах, тоді як інші зосереджуються на нейронних мережах або гібридних моделях, які поєднують обидва. Незалежно від підходу, більшість когнітивних архітектур мають декілька ключових характеристик[1]:

  • Модульність: когнітивні архітектури зазвичай організовані в модулі, які представляють різні когнітивні функції, такі як сприйняття, увага, пам’ять і прийняття рішень.
  • Навчання та адаптація: когнітивні архітектури призначені для навчання та адаптації до нових ситуацій за допомогою контрольованого навчання (коли система навчається на позначених даних) або неконтрольованого навчання (коли система самостійно виявляє шаблони в даних).
  • Міркування та вирішення проблем: когнітивні архітектури дозволяють інтелектуальним системам міркувати та вирішувати проблеми, використовуючи такі методи, як дедуктивне міркування, ймовірнісний висновок або евристичний пошук.
  • Емуляція людського пізнання: когнітивні архітектури прагнуть імітувати когнітивні процеси людського мозку, забезпечуючи основу для розуміння того, як працюють інтелектуальні системи та як їх можна вдосконалити.

Одним із ключових завдань у когнітивній архітектурі є проектування систем, які є гнучкими та достатньо загальними, щоб виконувати широкий спектр завдань, а також є ефективними та масштабованими. Дослідники постійно досліджують нові методи та підходи для вирішення цих проблем, з кінцевою метою створення систем, здатних до людського рівня інтелекту та не тільки.

Загалом, когнітивна архітектура є важливою сферою досліджень у галузі AGI, що забезпечує основу для розробки інтелектуальних систем, які можуть мислити, навчатися та адаптуватися, як люди. Оскільки дослідження в цій галузі продовжують просуватися, ми можемо очікувати значних проривів у розробці AGI та його застосуванні в широкому діапазоні галузей.[1]

Етика та регулювання[ред. | ред. код]

Розробка та впровадження загального штучного інтелекту (AGI) викликає значні етичні та регуляторні проблеми, які необхідно вирішити. Ось деякі з ключових[1]:

  • Безпека: системи AGI мають потенціал бути надзвичайно потужними, і якщо їх не спроектувати та впровадити безпечно, вони можуть становити серйозні ризики для безпеки людей. Це включає ризики від нещасних випадків або помилок, навмисної шкоди або ненавмисних наслідків дій системи.
  • Упередженість і справедливість: системи AGI настільки неупереджені, наскільки неупереджені дані, на яких вони навчаються. Якщо навчальні дані є упередженими, система може відтворити і навіть посилити цю упередженість у своїх рішеннях і діях, що призведе до несправедливих результатів для певних груп людей. Забезпечення справедливості та пом’якшення упередженості має бути ключовим фактором у розробці систем AGI.
  • Конфіденційність: системи AGI можуть збирати та обробляти величезні обсяги особистих даних, що викликає серйозні проблеми з конфіденційністю. Важливо встановити чіткі вказівки щодо того, як ці дані збираються, використовуються та захищаються, щоб забезпечити дотримання конфіденційності людей.
  • Відповідальність: системи AGI можуть приймати рішення та вживати заходів, які мають значний вплив на окремих людей і суспільство в цілому. Важливо встановити чіткі межі відповідальності за ці рішення та дії, зокрема, хто несе відповідальність за забезпечення безпеки та справедливості системи та хто несе відповідальність у разі заподіяння шкоди.
  • Управління: розробка та розгортання систем AGI мають далекосяжні наслідки для суспільства, тому важливо встановити чіткі рамки управління, щоб гарантувати, що технологія розробляється та використовується у спосіб, який узгоджується з суспільними цінностями та цілями.
  • Контроль людини: системи AGI повинні бути сконструйовані таким чином, щоб перебувати під контролем людини, при цьому люди мають змогу перевизначити або зупинити систему, якщо це необхідно. Це допомагає забезпечити відповідність дій системи людським цінностям і цілям.
  • Прозорість: системи AGI мають бути прозорими у своїх процесах прийняття рішень, щоб люди могли зрозуміти, як система прийшла до певного рішення чи дії. Це допомагає зміцнити довіру до системи та переконатися, що вона використовується відповідально та етично.

Загалом, розробка та впровадження систем AGI викликає значні етичні та управлінські проблеми, які необхідно вирішити. Для дослідників, політиків та інших зацікавлених сторін важливо працювати разом, щоб розробити рамки та рекомендації, які гарантуватимуть, що технологія розробляється та використовується у спосіб, який узгоджується з суспільними цінностями та цілями.[1]

Приклади перевершення людського інтелекту штучним[ред. | ред. код]

Приклад №1: штучний інтелект перемагає кімнату, заповнену кращими лікарями, у змаганні з діагностики пухлин (2018). Вчені Дослідницького центру неврологічних розладів штучного інтелекту та дослідницька група Столичного медичного університету в Китаї надали ШІ під назвою BioMind тисячі зображень захворювань, пов’язаних із нервовою системою. У змаганнях із двох раундів BioMind правильно діагностував 85% випадків за 18 хвилин у порівнянні з групою найкращих неврологів, яка досягла лише 64% точності за 50 хвилин.

Приклад №2: штучний інтелект розробляє комп’ютерний чіп так само добре, як і інженер-людина — і швидше (2021). Набір алгоритмів від Google Brain тепер може розробляти комп’ютерні мікросхеми, які використовуються для запуску програмного забезпечення ШІ, які значно перевершують ті, що розроблені експертами-людьми. Використовуючи тип машинного навчання, який називається глибоким навчанням з підкріпленням, ці розробники чіпів зі штучним інтелектом можуть працювати за лічені години, порівняно з типовим процесом, який може тривати тижнями або навіть місяцями.

Приклад №3: ШІ DeepMind розгадує математичні головоломки, які десятиліттями ставлять людей у глухий кут (2021). Працюючи з командами математиків, DeepMind розробив алгоритм для вирішення двох давніх головоломок у математиці: теорії вузлів і вивчення симетрій. Алгоритм міг розглядати різні математичні поля та виявляти зв’язки, які раніше вислизали від людського розуму. Вперше машинне навчання спрямоване на ядро математики — науки про виявлення закономірностей, які зрештою призводять до формально підтверджених ідей або теорем про те, як працює наш світ.

Приклад №4: ШІ перемагає 8 чемпіонів світу з бриджу (2022). Бридж — це комунікаційна та стратегічна гра, яка довго протистояла домінуванню ШІ. Дотепер. Штучний інтелект для гри в бридж під назвою NooK, розроблений французьким стартапом NukkAI, переміг 8 чемпіонів світу з бриджу на змаганнях у Парижі. NooK — це свого роду гібридний алгоритм, який поєднує символічний (тобто заснований на правилах) ШІ з домінуючим сьогодні підходом до глибокого навчання. У 80 сетах проти своїх людських суперників NooK виграв 67, або 83%.

Приклад №5: штучний інтелект, який розробляє білки, створює ліки, про які люди навіть не мріяли (2022). Вчені з Університету Вашингтона використали алгоритм глибокого навчання, щоб не лише передбачити загальну площу функціонального сайту білка, але й сформувати структуру. Команда використовувала нове програмне забезпечення для створення ліків, які "борються з раком", і створювала вакцини проти звичайних, хоча іноді й смертельних, вірусів. Як зазначив провідний науковець у дослідженні д-р Девід Бейкер, «Глибоке навчання трансформувало прогнозування структури білка за останні два роки, зараз ми перебуваємо в середині подібної трансформації дизайну білка»[3].

Виявлення сильного штучного інтелекту[ред. | ред. код]

Головним критерієм для визнання штучного інтелекту «сильним» є проходженням ним тесту Тюрінга, коли людина буде нездатна відрізнити чи спілкується з нею інша людина, чи машина.

Стів Возняк пропонував так званий «кавовий тест»: штучний інтелект може вважатися сильним, якщо машина під його керуванням здатна потрапити до пересічного американського будинку, знайти кавоварку, зварити в ній каву та налити її в горнятко. Тобто, сильний ШІ повинен вміти виконувати послідовності буденних людських завдань, на відміну від слабкого ШІ, котрий може виконувати тільки одне завдання чи їх вузький набір. У варіанті Бена Герцеля — пройти той самий курс навчання, що й пересічна людина, та здобути освітній ступінь. За Нільсом Джоном Нільсоном — виконувати економічно важливу роботу не гірше за людину[13].

Див. також[ред. | ред. код]

Примітки[ред. | ред. код]

  1. ↑ а б в г д е ж и к ChatGPT (GPT-3.5). 
  2. ↑ How to Create a Successful Life With Tony Robbins | Moonshots and Mindsets (англ.). Процитовано 13 листопада 2022. 
  3. ↑ а б в Diamandis, Peter H. Metatrend #2: AI Will Achieve Human-Level Intelligence. www.diamandis.com (en-us). Процитовано 13 листопада 2022. 
  4. ↑ John Searle Is the brains mind a computer program? Scientific American, 1990 (англ.)
  5. ↑ Russell, Stuart J. (Stuart Jonathan); Canny, John. Artificial intelligence : a modern approach (вид. Second edition). Upper Saddle River, N.J. ISBN 0-13-790395-2. OCLC 51325314. 
  6. ↑ Luger, George F. (1993). Artificial intelligence : structures and strategies for complex problem solving (вид. 2nd ed). Redwood City, Calif.: Benjamin/Cummings Pub. Co. ISBN 0-8053-4780-1. OCLC 26305570. 
  7. ↑ Computational Intelligence: A Logical Approach. www.cs.ubc.ca. Процитовано 2 липня 2020. 
  8. ↑ Nilsson, Nils J., 1933-2019. (1998). Artificial Intelligence : a new synthesis. San Francisco, Calif.: Morgan Kaufmann Publishers. ISBN 1-55860-467-7. OCLC 37975815. 
  9. ↑ Pfeifer, Rolf, 1947-; Grand, Simon. (2007). How the body shapes the way we think : a new view of intelligence. Cambridge, Mass.: MIT Press. ISBN 978-0-262-28155-3. OCLC 77568561. 
  10. ↑ Johnson, Mark, 1949- (1987). The body in the mind : the bodily basis of meaning, imagination, and reason. Chicago: University of Chicago Press. ISBN 0-226-40317-3. OCLC 14692604. 
  11. ↑ DeCharms, Richard (1968). Personal causation; the internal affective determinants of behavior.. Academic Press. 
  12. ↑ A.I. and Philosophical Zombies Must Have Rights. The Gemsbok (амер.). 16 червня 2017. Процитовано 2 липня 2020. 
  13. ↑ What is AGI?. Machine Intelligence Research Institute (амер.). 11 серпня 2013. Процитовано 2 липня 2020. 
Філософія
Nuvola apps Talk.PNG
Напрямки
Застосування
Дослідники
Організації
Отримано з https://uk.wikipedia.org/w/index.php?title=Сильний_штучний_інтелект&oldid=38881999