Технологічна сингулярність

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до: навігація, пошук
Зменшення проміжків часу між еволюційними подіями (біологічна і технологічна еволюція)

Технологі́чна сингуля́рність у футурології — гіпотетичне вибухоподібне зростання швидкості науково-технічного прогресу, яке ймовірно послідує за створенням штучного інтелекту і машин, здатних до самовідтворення. Гіпотетичний момент, після якого, на думку прихильників цієї концепції, технічний прогрес стане настільки швидким і складним, що виявиться недоступним для розуміння. За яким імовірно слідують створення штучного інтелекту і машин, що самовідтворюються, інтеграція людини з обчислювальними машинами або значне стрибкоподібне збільшення можливостей людського мозку за рахунок біотехнологій мозку

Визначення та обґрунтування[ред.ред. код]

Першою, і мабуть, базовою ідеєю є наслідок із закону Мура: десь між 2015 і 2035 роками обчислювальна потужність окремих комп'ютерів зрівняється з «сирою» обчислювальною потужністю людського мозку, а потім і перевершить її. Звичайно, закон Мура — це, насправді, ніякий не закон, а лише емпіричний висновок з чинної швидкості розвитку технологій. Однак, якщо трактувати цей закон ширше (а саме, рахувати не кількість транзисторів на кристалі, а доступну швидкодію процесорів і обсяги пам'яті), то виявиться, що тримається він значно довше існування інтегральних схем, змінивши по дорозі декілька технологій — електромеханічні обчислювачі, лампові, транзистори. Крім того, сам період 18 місяців умовний і з плином часу поступово зменшується. Таким чином, у нас є хороші шанси, що ще не менш ніж 15 років закон Мура протримається.

Зрозуміло, однією тільки обчислювальної потужності мало — потрібно і відповідне програмне забезпечення. Але, як ми бачимо, з цим теж все гаразд: досягли рівня практичної застосовності такі традиційно «інтелектуальні» операції як розпізнавання мови, тексту та інших образів; далекі нащадки «Елізи» — чат-роботи — успішно витримують тест Тюринга в невибагливих бесідах, а також усім відомий приклад Deep Blue, котрий перемагав чемпіона світу з шахів.

Отже, приймемо в якості робочої гіпотези, що можливості комп'ютерів в найближчому майбутньому перевершать людські. На цьому рівні абсолютно не важливо, чи будуть вони насправді мислити. Оскільки результати їх роботи будуть такими ж, як якби вони мислили, причому швидше і глибше, ніж люди.

Вперше за всю історію людства ми опинимося в суспільстві істот, розумніших, ніж ми самі. У романі «Полум'я над безоднею» Віндж називав їх Силами.

Перший, і, фактично, єдиний наслідок: ми не зможемо повністю ні зрозуміти, ні передбачити подальший розвиток подій, коли «біля керма» цивілізації стануть не тільки, а потім і виключно не люди, а надінтеллекти. В цьому і полягає сенс запропонованого Вінджем терміну «Сингулярність»: умови, в яких звичні моделі та подання втрачають свою придатність, і починається щось принципово інше.

Суть проблеми та часові рамки[ред.ред. код]

Прихильники теорії технологічної сингулярності вважають, що якщо виникне принципово відмінний від людського розум (постлюдина), подальшу долю цивілізації неможливо передбачити, спираючись на людську (соціальну) поведінку.

За деякими прогнозами технологічна сингулярність настане уже біля 2030 року[1].

Термін «сингулярність» запозичений у астрофізиків, які використовують його при описі космічних чорних дір і в деяких теоріях зародження всесвіту — точка з нескінченно великою масою і температурою та нульовим об'ємом. Математична сингулярність (особливість) — точка, значення функції в якій прямує до нескінченності, або інші схожі «цікаві» точки.

У футорологічному контексті вперше термін «сингулярність» використав у середині XX століття Джон фон Нейман, маючи на увазі математичне, а не астрофізичне розуміння цього слова — точку, за якою екстраполяція починає давати абсурдні значення (розбігатися). Про це пише сам Вернор Віндж, якому даний термін зазвичай присвоюють[2]. Науковим обґрунтуванням неминучого настання сингулярності активно займається Реймонд Курцвейл. Критиці ця теорія піддається в роботах російського ученого Коротаєва.[3]

Можливі переходи[ред.ред. код]

Штучний інтелект[ред.ред. код]

Людина створить такий штучний інтелект, що перевищить людський. Буде мислити як людський, швидше розвиватись. Цей інтелект буде керувати світом. Що може призвести до загибелі людства

Збільшення біологічних можливостей людини[ред.ред. код]

Улюблена тема фантастів. Все, в кінцевому підсумку, зводиться або до генної інженерії та євгеніки, або до тонкої кіборгізаціі, яка не бере на себе функції нервової системи, а тільки доповнює їх.

Рішення непогане, але і дуже туманне. Так, геном людини вже розшифрували, але зрозуміти, які ділянки ДНК за що відповідають — на це потрібні десятиліття наполегливої ​​людської праці. Не кажучи вже про те, що для початку практичного застосування знань, будуть потрібні, в кінцевому підсумку, досліди не просто на людях, а на ембріонах. Сучасна мораль до цього не готова, і ще довго готова не буде — он які проблеми виникли навіть з банальним клонуванням без дублювання особистості.

До імплантації ефективних кіберпанківських імплантів теж ще далеко — тільки в лютому 2001 року здійснили перше з'єднання нейрона з чіпом. Є неперевірені відомості про використання відеокамери в якості очного протеза.

Цей сценарій, швидше за все, буде реалізований вже після досягнення Сингулярності.

Людино комп'ютерні системи[ред.ред. код]

Основна суть цього підходу — в об'єднанні сильних сторін людини і комп'ютера. Людина використовує інтуїцію, асоціації і своє розуміння процесів. Комп'ютер виконує громіздкі точні розрахунки і розширює ефективний обсяг оперативної і довготривалої пам'яті людини. Хоча окремо ні людина, ні комп'ютер не є Силою, у взаємодії вони цю Силу утворюють.

Інший варіант тієї ж ідеї — узгоджена співпраця людей, об'єднаних комп'ютерною мережею.

Цей сценарій найбільш привабливий. Нам не доведеться переламувати моральні принципи і розумні побоювання, як у випадку форсованого біологічного розвитку. Ми не ризикуємо бути витісненими з усіх сфер активного життя штучним інтелектом. Більш того, не потрібно розробляти нічого настільки ж принципово нового, як штучний інтелект або біотехнології — все відбудеться м'яко і непомітно, в процесі природного розвитку.

По суті, на цьому шляху ми вже є надлюдським інтелектом, деякі з нас, хто вміє ефективно працювати з комп'ютером. Слабкими і вузькоспеціалізованими, але вже вище людського рівня. Деякі іспити вже зараз неможливо здати за розумний час без допомоги калькуляторів. Якщо дати людині комп'ютер з відповідним програмним забезпеченням, він легко досягне вищих результатів в існуючих IQ-тестах. Програми-словники і інтерактивні перекладачі дозволяють людині, яка не дуже добре знає іноземну мову, спілкуватися на цій мові в чатах практично в реальному часі. Якби у Каспарова була в розпорядженні проста шахова програма-асистент, у Deep Blue не було б жодного шансу. Не кажучи про обсяг знань, які практично миттєво опиняються в розпорядженні людини, яка вміє користуватися пошуковими серверами в інтернеті.

Ви не відчуваєте себе зверхінтелектами, працюючи за комп'ютером. Особисто ви, як окремі людські істоти, ними і не є. Але результати роботи вашого людино-машинного симбіозу однозначно свідчать про ефективне посилення інтелекту. Саме зменшення коефіцієнта закону Мура з 2 років до 1.5 було б неможливо без нових програмно-апаратних комплексів розробки і проектування.

Багато що можна досягти навіть з уже існуючими обчислювальними потужностями, якщо зменшити кількість проміжних ступенів в парах «думка-дія» і «сприйняття-думка». Вже є датчики, що реагують на рух очей, тіла, дихання, тиск. Вже є наокові дисплеї з проекцією зображення на сітківку. В принципі, вже можливо вводити елементи віртуальної реальності в спостережувану реальність речову. Ведуться роботи над якісно новими мультимедійними інтерфейсами.

Небезпека сингулярності[ред.ред. код]

Приємно мріяти про загальне щастя і красиве майбутнє. Але, яким би швидким не був перехід в геологічно-еволюційному масштабі, з людської точки зору він займе помітний час. Досить потужні комп'ютери не з'являться у всіх одночасно. Терабітні канали зв'язку протягнуть до всіх не відразу. Нові програмні інтерфейси навряд чи самі завантажаться з мережі на кожне робоче місце. І так далі.

Не маючи ілюзій з приводу людської природи, можна передбачити різноманітні проблеми: заздрість тих, які ще не приєдналися; невиправдану гордовитість «просунутих», релігійний фанатизм, терористичні акти, хвилювання і локальні війни. Будуть поламані долі і людські жертви — це, на жаль, майже напевно. А якщо згадати про кількість накопичених людством засобів масового знищення, то цілком можливий і сценарій, коли якесь досить сильне угруповання в страху перед майбутнім знищить всю людську цивілізацію.

До Сингулярності веде безліч шляхів. Історії все одно, яким із них ми підемо. Але нам аж ніяк не все одно. Необхідно пом'якшити перехід, наскільки це можливо. І найкращий спосіб — це якомога швидше створити хоча б одну Силу і доручити контроль за переходом їй.

Сценарії без сингулярності[ред.ред. код]

Перш за все, цивілізація ще може загинути. Ядерна війна наддержав малоймовірна, оскільки ядерна наддержава залишилась тільки одна. Але засоби масового знищення нині доступні навіть невеликим терористичним організаціям. А бувають ще епідемії, екологічні катастрофи, енергетичні кризи і падіння гігантських метеоритів.

Ми можемо несподівано натрапити на принципові межі складності систем, не дійшовши до потрібного рівня інтелектуальності. Технологічні межі електронних технологій вже видно (транзистор з трьох атомних шарів навряд чи можливо зробити меншим). Може також виявитися, що люди не здатні розробити надійну систему, що перевищує певний поріг складності — ознакою цього будуть провали великих програмних проектів, що падають під вантажем помилок. Це вкрай малоймовірно, але це можливо, і ми можемо не знайти виходу з тупика. Тоді нас чекає майбутнє Повільної Зони, барвисто описане Вінджем в романі «Глибина в небі» — вічний цикл підйомів і саморуйнування цивілізацій, які досягли межі можливостей.

Сингулярності не буде, якщо не будуть знайдені джерела енергії, альтернативні нинішнім (вони, очевидно, не вічні). Альтернативні розробки є, але зараз вони заморожені, щоб не руйнувати економіку, побудовану на нафті та атомній енергетиці. Але наскільки ці альтернативні джерела нам допоможуть — ще питання.

Ми можемо звернути з наміченого шляху розвитку, захопившись новою іграшкою розуму, подібно до того як інформаційні технології витіснили мрію людства про космічні польоти, і закинути спроби побудувати Силу.

Загальна ідея проста: Сингулярність ще не остаточно визначена. Якщо ми не зробимо Надрозум самі, він не виникне.

Принципи прихильників Сингулярності[ред.ред. код]

Ви так пристрасно обстоювали вертикальний прогрес. Так от він вам — вертикальний прогрес! У найчистішому вигляді! Людство, що розлилося по квітучій рівнині під ясними небесами, рвонулося вгору. Звичайно, не всім натовпом, але чому це вас так засмучує?

Аркадій і Борис Стругацькі. Хвилі гасять вітер, 1985.

Це витяг з принципів, які розробив Еліезер С. Юдковськи — видатний ентузіаст і прихильник Сингулярності, засновник Інституту Сингулярності і штучного інтелекту.

Активність

Мало визнавати Сингулярність або говорити про неї. Треба робити і щось практично корисне, інакше рух буде задушений масою порожніх бюлетенів. Користь не обов'язково повинна бути матеріальною — наприклад, написання статей (тільки нових, а не проста компіляція старих) теж корисно. На поточному етапі активність може виявлятися і просто як очікування в готовності взятися за посильні справи, коли вони з'являться.

Технологічність

Сингулярність — природна подія, породжена виключно технологічними причинами. Можна пов'язувати Сингулярність з будь-якими релігійними пророцтвами або містичними одкровеннями, але не декларувати це як офіційну позицію. Занадто легко дискредитувати рух, перетворивши його в чергову релігійну секту. Не молитвами, медитаціями і праведним життям буде побудована Сингулярність, а наполегливою працею кваліфікованих фахівців.

Глобалізм

Сингулярність — для всіх. Не обов'язково бути абстрактним альтруїстом. Можна працювати заради власного блага — але так, щоб результатами вашої роботи змогли скористатися не тільки ви, але й усі охочі.

Співпраця і незалежність

Всі ми працюємо заради успіху спільної справи. Повага здібностей інших, доброзичливе співробітництво, вільний обмін інформацією та результатами надзвичайно корисні. Визнання особистих заслуг автора завжди доречно, але будь-який результат цінний сам по собі. Не дозволяйте особистим амбіціям заважати загальній роботі. Хоча спільна робота ефективніша, прихильники Сингулярності не збираються в зграї і не будують організації, якщо це не потрібно для справи. Управління та координація необхідні і корисні, поки не стають надлишковими. Навіть залишившись у повній самотності та ізоляції, без надії на остаточну перемогу, прихильник Сингулярності продовжує роботу заради наближення Сингулярності.

Непідкореність

Будь-який шлях до Сингулярності гарний настільки, наскільки він веде до мети. Прихильники Сингулярності не заважають один одному розвивати напрями, які ті вважають перспективними. Дискусії заради пошуку істини допускаються і вітаються, але не можна без вагомих обґрунтованих причин забороняти будь-кому рухатися своїм шляхом.

Технологічна сингулярність в популярній культурі[ред.ред. код]

Окрім піонерських оповідань Вернора Вінджа, сингулярність є центральною темою творів деяких інших авторів наукової фантастики. Серед них можна відмітити Вільяма Гібсона, Чарльза Стросса, Карла Шредера, Грега Ігана, Девіда Бріна, Іена Бенкса, Ніла Стівенсона, Тоні Баллантайна, Брюса Стерлінга, Дена Сіммонса, Дем'єна Бродерика, Фредеріка Брауна, Яцека Дукая, Нагару Танігава, Корі Доктороу. Кен Маклеод в своєму романі 1998 року «Підрозділ Кассіні» (англ. The Cassini Division) визначає сингулярність як «піднесення для нердів». Тематика сингулярності часто зустрічається в кіберпанкових романах. Наприклад рекурсивне самовдосконалення штучного інтелекту «Зимове Мовчання» в романі Вільяма Гібсона «Нейромансер». Опублікований у 1994 році на сайті Kuro5hin роман «Метаморфози вищого інтелекту» присвячений життю після запущеної штучним інтелектом сингулярності. Більш антиутопічний погляд на сингулярність в оповіданні Харлана Еллісона «В мене немає рота, а я хочу кричати».

Історія 1950 року Айзека Азімова «Неминучий конфлікт» (остання частина Я робот) має машини, чотири суперкомп'ютери управління економікою у світі. Комп'ютери є незрозумілими для людей і неможливими для аналізу на наявність помилок. Наприкінці історії, було сказано, що відтепер (це відбувається в 2052), жоден великий конфлікт не може виникнути, і Машини збираються направити людство до кращого майбутнього.

Роман 1979 року Джеймса П. Хогана «Два обличчя завтрашнього дня» явно описує те, що зараз називається Сингулярністю. Система штучного інтелекту вирішує проблеми розкопок на Місяці блискучим та новим шляхом, але ледь не вбиває екіпаж в процесі роботи. Розуміючи, що системи стають занадто складними і складно прогнозувати й управляти ними, науковий колектив має намір навчити їх, як мислити більш по-людськи. Історія описує зростання самосвідомості в комп'ютерній системі, втрату людьми контролю, і невдалі спроби закрити експеримент, а також як комп'ютер відчайдушно захищається, і комп'ютерний інтелект досягає зрілості.

У 1984 році в романі Вільяма Гібсона «Neuromancer», штучний інтелект, здатний поліпшити свої програми, суворо регулюється спеціальним «Тюрінг контролерами», щоб переконатися, що вони не перевищують певного рівня інтелекту. І сюжет побудованно на зусиллях одного з таких ШІ, обійти цей контроль. У 1994 році роман «Метаморфози» «Головний Інтелект» має ШІ, який самонавчається так швидко, щоб отримати низькорівневий контроль над всією матерією у Всесвіті протягом кількох годин.

Новели Вільяма Квіка «Dreams of Flesh and Sand» (1988), «Dreams of Gods and Men» (1989), і «Singularities» (1990) представляють звіт про перехід через сингулярність, в останньому романі один із героїв заявляє, для того щоб вижити, людство має інтегруватися в нові машини штучного інтелекту, або людство буде розчавлено їх владою. Машини — найбільший ризик.

У серії Gridlinked Ніла Ешера майбутнє, де люди живуть в Країні, що регулюються ШІ. В той час коли деякі ображені, більшість ШІ вважає, що вони набагато кращі губернатори, ніж будь-яка людина. У четвертому романі, «Polity Agent», він зазначив, що Сингулярність запізнилась, і більшість ШІ вирішили не брати участь в ній з причин, які тільки вони знають.

Існують популярні фільми, в яких комп'ютери стають інтелектуальними і жорстко придушують людський рід, наприклад: Термінатор, Я, робот, Матриця. А також серіал Battlestar Galactica

Айзек Азімов висловив ідеї, близькі до сингулярності в оповіданні The Last Question. Майбутнє Азімова передбачає реальність, в якій поєднання сильного штучного інтелекту і пост-люди споживають в космос. Також ШІ відчуває, що йому не вистачає достатньої інформації, щоб прийти до висновку, до кінця цієї задачі, коли ШІ дійсно знаходить рішення. Примітно, що він робить це для того, щоб виконати свій обов'язок, щоб відповісти на питання людей.

Імонн Хілі обговорює прискорення змін в фільмі Waking Life. Він ділить історію на більш короткі періоди, він розділяє на «два мільярди років життя, шість мільйонів років гомініди, сто тисяч років людства, яке ми знаємо». Він продовжує рухатись до культурної еволюції людини, даючи такі часові рамки: десять тисяч років для сільського господарства, чотириста років для наукової революції, і сто п'ятдесят років для промислової революції. Інформація при цьому підкреслюється, як забезпечуюча основу для нової еволюційної парадигми, з штучним інтелектом в своїй кульмінації. Він робить висновок, що ми в кінці кінців буде створено «neohumans», який узурпує нинішню роль людства в науково-технічному прогресі і дозволить показниковій тенденції прискорити зміни, щоб продовжувати поза межею людських можливостей. «Машинний контроль» Згідно з есхатологічною теорією кінця світу, а саме Техногенна теорія «Машинний контроль», кінець світу настане в результаті заміни людської праці на машинну. Всю роботу будуть виконувати роботи, кіборги та машини. Айзек Азімов стверджував, що механічний кінець світу виникне, якщо робот не буде дотримуватися трьох основних законів, які і є головними для машин- робота: 1) Машина не може завдати шкоди людині 2) Машина зобов'язана ліквідувати причину, що загрожує життю людини 3) Машина може надавати допомогу людині, тільки якщо це не завадить самій людині, або іншим людям.

Примітки[ред.ред. код]

Бібліографія[ред.ред. код]

Див. також[ред.ред. код]

Посилання[ред.ред. код]