Живопис на основі штучного інтелекту

Матеріал з Вікіпедії — вільної енциклопедії.
Перейти до навігації Перейти до пошуку
Зображення, породжене моделлю DALL-E 2 на основі текстового запиту «1960's art of cow getting abducted by UFO in midwest» (укр. Картина 1960-х років про корову, яку викрадає НЛО, на середньому заході)

Живо́пис на осно́ві шту́чного інтеле́кту (англ. artificial intelligence art) — це будь-яке образотворче мистецтво, створене за допомогою програм штучного інтелекту (ШІ).[1]

Художники почали створювати мистецтво на основі ШІ від середини до кінця XX століття, коли цю дисципліну було засновано. На початку XXI століття доступність інструментів для живопису на основі ШІ для загальної публіки зросла, надавши можливості для використання поза академічним середовищем та професійними художниками. Протягом своєї історії мистецтво на основі штучного інтелекту породжувало багато філософських питань, зокрема тих, що стосуються авторських прав, обману, та його впливу на традиційних художників, включно з їхніми доходами.

Історія[ред. | ред. код]

Рання історія[ред. | ред. код]

Концепція автоматизованого мистецтва сходить щонайменше до автоматонів давньогрецької цивілізації, де винахідників, таких як Дедал та Герон Александрійський, описували як розробників машин, здатних писати текст, створювати звуки та грати музику.[2][3] Традиція творчих автоматонів процвітала протягом історії, як, наприклад, створення на початку 1800-х років автоматона Майярде[en].[4]

Академічну дисципліну штучного інтелекту заснували на дослідницькому семінарі[en] в Дартмутському коледжі 1956 року, і вона пережила кілька хвиль розвитку та оптимізму протягом наступних десятиліть.[5] З моменту її заснування, дослідники у цій галузі порушували філософські та етичні аргументи щодо природи людського розуму та наслідків створення штучних істот із людським інтелектом; ці питання раніше досліджували у міфах, фантастиці[en] та філософії з античних часів.[6]

1950-ті — 2000-ті[ред. | ред. код]

З моменту заснування ШІ у 1950-х роках, художники та дослідники використовували штучний інтелект для створення художніх творів. Ці твори іноді називали алгоритмічним живописом[en][7], комп'ютерним живописом, цифровим живописом або новими медіа.[8]

Одна з перших значущих систем живопису на основі ШІ — AARON[en], розроблена Гарольдом Коеном[en] наприкінці 1960-х років в Університеті Каліфорнії в Сан-Дієго.[9] AARON це найвідоміший приклад живопису на основі ШІ в епоху програмування старого доброго символьного ШІ[en] через його використання символьного підходу на основі правил для породжування технічних зображень.[10] Коен розробив AARON з метою уможливити кодування акту малювання. У своєму первісному вигляді AARON створював прості чорно-білі малюнки. Коен відтак завершував малюнки, розфарбовуючи їх. Протягом років він також почав розробляти спосіб, щоб AARON також і розфарбовував. Коен розробив AARON так, щоби він малював за допомогою спеціальних пензлів та фарб, які програма обирала самостійно без посередництва Коена.[11] AARON[en] представлили 1972 року в музеї мистецтв округу Лос-Анджелес.[12]

У 1991 та 1992 роках Карл Сімс[en] отримав нагороду Золота Ніка на Prix Ars Electronica[en] за свої тривимірні анімовані ШІ відео, створені за допомогою штучної еволюції.[13][14][15]

2009 року Ерік Міллікін[en] отримав Пулітцерівську премію разом з декількома іншими нагородами за свій живопис на основі штучного інтелекту, який критикував корупцію уряду в Детройті, і призвів до того, що мера міста відправили до в'язниці.[16][17][18]

2010-ті та глибоке навчання[ред. | ред. код]

Картина «Едмон де Беламі[en]», створена за допомогою породжувальної змагальної мережі

2014 року Ян Ґудфелоу із колегами з Монреальського університету розробили породжувальну змагальну мережу[19][20][21] (англ. generative adversarial networks, GAN), такий тип глибокої нейронної мережі, що здатен навчатися імітувати статистичний розподіл вхідних даних, як-от зображень. Породжувальна змагальна мережа використовує «породжувач» (англ. "generator") для створення нових зображень та «розрізнювач» (англ. "discriminator") для вирішування, які зі створених зображень вважати успішними.[22] На відміну від попереднього алгоритмічного живопису, що слідував закодованим вручну правилам, породжувальні змагальні мережі можуть навчатися конкретної естетики, аналізуючи набір даних прикладів зображень.[7]

2015 року команда з Google представила DeepDream[en], програму, яка використовує згорткову нейронну мережу для пошуку та підсилення образів на зображеннях за допомогою алгоритмічної парейдолії.[23][24][25] Цей процес створює навмисно переоброблені зображення сноподібного вигляду, що нагадують психоделічний досвід.[26]

2018 року на аукціоні Крісті у Нью-Йорку створену за допомогою ШІ картину «Едмон де Беламі[en]» (гра слів на пізвище Ґудфелоу) було продано за $ 432 500, що майже в 45 разів перевищило її оцінку в $ 7 000—$ 10 000. Цей художній твір створили «Obvious», колектив з Парижа.[27][28][29]

2019 року Стефані Дінкінс[en] отримала нагороду Creative Capital[en] за створення еволюційного штучного інтелекту на основі «інтересів та культури (культур) людей кольорової раси».[30] Також 2019 року Сюґвен Чон[en] отримала нагороду Lumen Prize[en] за свої виступи з роботизованою рукою, яка використовує ШІ, намагаючись малювати подібно самій Чон.[31]

2020-ті та породжувальний ШІ[ред. | ред. код]

Приклад зображення, створеного за допомогою VQGAN+CLIP (NightCafe Studio)

У 2020-х роках моделі зображення за текстом[en], які породжують зображення на основі підказок, почали наближатися до якості справжніх фотографій та живопису, створеного людьми.[32]

2021 року, використовуючи моделі Трансформер, вжиті в GPT-2 та GPT-3, OpenAI розробила DALL-E, модель ШІ зображення за текстом[en], здатну створювати високоякісні зображення на основі підказок природною мовою.[33]

Пізніше 2021 року EleutherAI[en] випустила відкрите програмне забезпечення VQGAN+CLIP[34] на основі моделі CLIP від OpenAI.[35]

2022 року випустили Midjourney,[36] а за нею Stable Diffusion з відкритим кодом,[37] що призвело до бурхливого зростання використання ШІ в образотворчому мистецтві.

2022 року Рефік Анадол[en] створив мистецьку інсталяцію на основі штучного інтелекту в Музеї сучасного мистецтва у Нью-Йорку на основі власне колекції музею.[38]

Інструменти та процеси[ред. | ред. код]

Зображення[ред. | ред. код]

Зображення, створене за допомогою Stable Diffusion

Було розроблено багато механізмів для створення живопису на основі ШІ, включно з процедурним створенням зображень «на основі правил» з використанням математичних шаблонів, алгоритмами, які імітують мазки пензля та інші художні ефекти, а також алгоритмами глибокого навчання, такими як породжувальні змагальні мережі[19][20][21] (англ. generative adversarial networks, GAN) та трансформери.

Декілька компаній випустили застосунки, які перетворюють фотографії на мистецькі зображення в стилі[en] відомих наборів картин.[39][40] Вебсайт Artbreeder[en], запущений 2018 року, використовує моделі StyleGAN[en] та BigGAN[41][42] для того, щоби користувачі могли породжувати та змінювати зображення, такі як обличчя, пейзажі та картини.[43]

Декілька програм використовують моделі зображення за текстом[en] для породжування різноманітних зображень на основі різних текстових підказок. Серед них VQGAN+CLIP від EleutherAI[en], випущена у 2021 року,[34] DALL-E від OpenAI, які випустили низку зображень у січні 2021 року,[44] Imagen та Parti від Google Brain, які анонсували у травні 2022 року, NUWA-Infinity від Microsoft,[45][46] та Stable Diffusion, випущена в серпні 2022 року.[47][48] Stability.ai має вебінтерфейс Stable Diffusion під назвою DreamStudio.[49] Stable Diffusion це програмне забезпечення з доступним кодом[en], що дозволяє подальшу розробку, таку як плагіни для Krita, Photoshop, Blender та GIMP,[50] а також користувацький вебінтерфейс із відкритим кодом Automatic1111.[51][52][53] Основна попередньо натренована модель Stable Diffusion розміщена на Hugging Face Hub.[54]

Існує багато інших програм ШІ для породжування живопису, включно з простими споживчими мобільними застосунками та записниками Jupyter, які вимагають потужних ГП, щоби працювати ефективно.[55]

Вплив та застосування[ред. | ред. код]

Виставка «Thinking Machines: Art and Design in the Computer Age, 1959–1989» в MoMA надала огляд застосувань ШІ для мистецтва, архітектури та дизайну. Серед виставок, що демонструють використання ШІ для створення живопису, благодійний захід та аукціон 2016 року, спонсорований Google, у Gray Area Foundation у Сан-Франциско, де художники експериментували з алгоритмом DeepDream[en], та виставка 2017 року «Unhuman: Art in the Age of AI», яка відбулася у Лос-Анджелесі та Франкфурті. Навесні 2018 року Асоціація обчислювальних машин присвятила випуск журналу темі комп'ютерів та мистецтва. У червні 2018 року в Beall Center for Art + Technology представили «Duet for Human and Machine», мистецький об'єкт, що дозволяє глядачам взаємодіяти зі штучним інтелектом. 2019 року австрійська Ars Electronica[en] та Австрійський музей прикладного мистецтва відкрили виставки про ШІ. Фестиваль Ars Electronica 2019 року «Out of the box» досліджував роль мистецтва у сталому суспільному перетворенні.

До прикладів такого доповнення можуть належати, наприклад, розширення аматорами некомерційних нішових жанрів (поширені приклади — похідні кіберпанку, такі як соларпанк), нові розваги, нові уявні дитячі ігри,[джерело?] дуже швидке прототипування,[56] підвищення доступності створення живопису[56] та художнього результату відносно зусиль та/або витрат та/або часу[56] — наприклад, через породжування ескізів, натхнень, довершування ескізів та складових зображення (заповнювання прогалин[en]).

Конструювання та поширювання підказок[ред. | ред. код]

Зображення, породжене Stable Diffusion на основі текстового запиту «a photograph of an astronaut riding a horse» (укр. «фотографія космонавта, який їде на коні»)

Підказки (англ. prompts) для деяких моделей зображення за текстом можуть також містити зображення, ключові слова та конфігуровані параметри, такі як художній стиль[en], який часто використовують за допомогою ключових фраз на кшталт «у стилі [ім'я художника]» у підказці[57] та/або вибору загального естетичного/художнього стилю.[58][59] Існують платформи для обміну, торгівлі, пошуку, розгалужування/вдосконалення та/або співпраці над підказками для породжування певних зображень із породжувачів зображень.[60][61][62][63] Підказками часто діляться разом із зображеннями на вебсайтах обміну зображеннями, таких як Reddit, та вебсайтах, присвячених живопису на основі ШІ. Підказка — це не повний набір даних входу, необхідний для породження зображення: до додаткових даних входу, які визначають породжене зображення, належать роздільна здатність виходу, випадкове початкове значення, та параметри випадкового вибирання.[64]

Пов'язана термінологія[ред. | ред. код]

Синтетичні медіа[en], до яких належить живопис на основі ШІ, було описано 2022 року як основний технологічний напрям, який вплине на бізнес найближчими роками.[56] Для практики породжування за допомогою ШІ схожих на фотографії зображень було запропоновано термін «синтографія» (англ. 'synthography').[65]

Розвиток[ред. | ред. код]

В розробці перебувають додаткові функції, які можуть покращити різні застосування або уможливити нові, — такі як «текстове обернення» (англ. "textual Inversion"), що позначує можливість використання користувацьких понять (таких як об'єкт або стиль), вивчених з декількох зображень. З текстовим оберненням можливо породжувати новий уособлений живопис з асоційованих слів (ключових слів, призначених вивченому, часто абстрактному поняттю)[66][67] та розширень/тонких настройок моделі (див. також: DreamBooth[en]).

Породжені зображення іноді використовують як ескізи,[59] експерименти з низькими витратами[68] чи ілюстрації ідей на етапі підтвердження концепції[en] — додаткові функції або покращення можуть також стосуватися післяпороджувального ручного редагування (полірування або художнього використання) живопису на основі підказок[джерело?] (такого як подальше тонке ладування за допомогою редактора зображень).[68]

Критика, проблеми та суперечності[ред. | ред. код]

Авторське право[ред. | ред. код]

Від самого початку живопису на основі штучного інтелекту він виклика́в численні дебати, які у 2020-х часто стосувалися питань, чи можливо вважати живопис на основі ШІ живописом, і який він має вплив на художників.[69][70][71]

1985 року професорка з права інтелектуальної власності Памела Самуельсон[en] розглядала правові питання, що стосуються авторства живопису на основі ШІ у відношенні до авторського права: хто володіє авторським правом, коли твір мистецтва було створено штучним інтелектом? Стаття Самуельсон «Розподіл прав власності на комп'ютерно породжувані роботи» стверджувала, що права мають бути передані користувачеві програми-породжувача.[72] У відповідь на це ж питання стаття 2019 року у Florida Law Review[en] представила три можливих варіанти. Перший, власником авторського права стає сам штучний інтелект. Для цього розділ 101 Закону про авторське право потрібно було би змінити, визначивши «автора» як природну особу або комп'ютер. Другий, слідуючи аргументу Самуельсон, власником авторського права є користувач, програміст або компанія зі штучного інтелекту. Це було би розширенням доктрини «роботи на замовлення», за якою майнове авторське право передається «роботодавцю». Нарешті, ніхто не стає власником авторського права, і робота автоматично потрапляє в публічне володіння. Аргумент тут полягає в тому, що оскільки твір мистецтва не «створила» жодна особа, авторське право не повинно належати нікому.[73]

2022 року, разом зі зростанням доступності послуг породжування ШІ зображень споживчого класу, популярна дискусія щодо законності та етики породжуваного ШІ живопису відновилася. Особливо актуальним є використання авторського мистецтва у тренувальних наборах даних ШІ: у вересні 2022 року Ріма Селхі з Design and Artists Copyright Society[en] заявила, що «запобіжних заходів для художників, щоби вони могли визначити роботи в базах даних, які використовуються, і відмовитися, не існує».[74] Дехто стверджує, що зображення, створені цими моделями, можуть мати дивовижну схожість із наявним живописом, іноді включаючи залишки підпису оригінального художника.[74][75] Така дискусія досягла своєї кульмінації у грудні, коли користувачі платформи портфоліо ArtStation організували онлайн-протест проти недобровільного використання їхнього мистецтва у наборах даних: це призвело до зростання профілю таких послуг як «Have I Been Trained?» (укр. «На мені тренувалися?»), а також деякі онлайн-платформи живопису обіцяли запропонувати свої варіанти відмови.[76] За Бюро авторських прав США, програми штучного інтелекту не можуть мати авторського права,[77][78][79] рішення, яке підтримувалося на рівні федеральних округів станом на серпень 2023 року, виходило з міркувань з диспуту з авторського права селфі мавпи.[80]

Проблема багатьох популярних програм для створення живопису на основі ШІ полягає в тому, що вони породжують зображення на основі робіт художників без їхньої згоди.[81] У січні 2023 року троє художниць, Сара Андерсен, Келлі Маккернан[en] та Карла Ортіс, подали позов про порушення авторських прав проти Stability AI, Midjourney та DeviantArt, стверджуючи, що ці компанії порушили права мільйонів художників, тренуючи інструменти ШІ на п'яти мільярдах зображень, які нагребли з Інтернету без згоди оригінальних авторів.[82] Того ж місяця Stability AI також отримала позов від Getty Images за використання їхніх зображень у тренувальних даних.[83]

У липні 2023 року суддя окружного суду США Вільям Оррик[en] схилився до відхилення більшої частини позову, поданого Андерсен, Маккернан та Ортіс, але дозволив їм подати нову скаргу.[84]

Дохід і стабільність працевлаштування[ред. | ред. код]

«Театр „Космічна опера“[en]», зображення, породжене Midjourney, яке виграло конкурс цифрового мистецтва 2022 року

З розвитком та поширенням програмного забезпечення породжувального ШІ для зображень, такого як Stable Diffusion та DALL-E, зросли потенційні проблеми та побоювання щодо впливу цих систем на творчість та мистецтво.[85] Протягом 2022 року художники, які працюють з різними медіа, висловлювали побоювання щодо впливу породжувального штучного інтелекту на їхню здатність заробляти гроші, особливо якщо зображення на основі ШІ почнуть замінювати художників, які працюють у галузях ілюстрування та дизайну.[86][87] У серпні 2022 року художник цифрового жанру Р. Дж. Палмер заявив: «Я легко можу уявити ситуацію, коли за допомогою ШІ один художник або арт-директор може замінити 5—10 художників-початківців… Я бачив багато авторів, які публікуються самостійно, і вони кажуть, наскільки чудово буде те, що їм не доведеться наймати художника.»[75] Вчені Цзян зі співавт. підтримують це побоювання втрати робочих місць у творчих галузях, заявляючи: «Керівники компаній, таких як Open AI та Stability AI, відверто заявляли, що очікують, що системи породжувального ШІ ось-ось замінять творчих професіоналів», додаючи, що «Це витіснення робочої сили очевидне в усіх творчих галузях. Наприклад, за статтею на Rest of World, рекрутер китайської індустрії комп'ютерних ігор помітив спад на 70 % у вакансіях ілюстраторів, частково через широке використання породжувачів зображень; ще одна студія в Китаї, за повідомленнями, звільнила третину своїх ілюстраторів розробки персонажів».[85]

Зображення на основі ШІ стали поширенішими на ринках живопису та в пошукових системах, оскільки системи зображення за текстом[en] на основі ШІ тренуються на наявних художніх зображеннях, іноді без згоди оригінального художника, що дозволяє програмному забезпеченню імітувати стилі конкретних художників.[85][88] Наприклад, польський художник цифрового жанру Ґреґ Рутковський заявив, що йому важче шукати свою роботу в Інтернеті, оскільки багато зображень у результатах пошуку породжені ШІ спеціально для імітування його стилю.[47] Більше того, деякі тренувальні бази даних, на яких ґрунтуються системи ШІ, не доступні публічно, що робить неможливим знання ступеня, до якого їхні тренувальні дані містять зображення, захищені авторськими правами. Наприклад, інструмент, створений Саймоном Віллісоном, дозволяв людям шукати 0,5 % тренувальних даних для Stable Diffusion версії 1.1, тобто 12 мільйонів з 2,3 мільярда примірників з LAION 2B. Художниця Карен Галліон виявила, що її захищені авторським правом зображення використовували як тренувальні дані без її згоди.[85]

Здатність художнього програмного забезпечення на основі ШІ імітувати або підробляти художній стиль також викликає побоювання щодо лиходійства та жадібності.[85][89][90] Живопис, породжений ШІ, такий як «Театр „Космічна опера“[en]», ілюстрація ШІ зображення за текстом[en], яка виграла головний приз на конкурсі цифрового живопису в серпні 2022 року на Colorado State Fair, почав завалювати художні конкурси та інші форуми для подавання робіт невідомими художниками.[85][89][90] Ці подавання, створені ШІ, призвели до того, що такі організації як Clarkesworld, журнал наукової фантастики, закрили свої подавання та запрошували роботи лише від відомих митців після того, як їхній форум для подавання робіт завалили текстами, породженими в ChatGPT.[85]

Породжувані ШІ зображення викликали побоювання, що їх можливо використовувати для завдання шкоди репутації художника. Художниця Сара Гендерсен стала свідком того, як її живопис було скопійовано й потім використано для зображення неонацистської ідеології. Вона заявила, що поширення мови ненависті в Інтернеті через використання породжувачів зображень може стати тяжчим.[85] Цзян зі співавт. також додають до цієї думки, заявляючи, що «інструменти, натреновані на роботах художників, і які дозволяють користувачам імітувати їхній стиль без їхньої згоди або винагороди, можуть завдати значущої шкоди репутації [шляхом] поширення посилів, які вони не схвалюють».[85]

Розвиток штучного інтелекту, що загрожує безпеці робочих місць сценаристів та акторів, спричинив голлівудські трудові спори 2023 року.[91]

Омана[ред. | ред. код]

Породжене ШІ зображення 2023 року, на якому Папа Франциск у пуховій зимовій куртці, ввело в оману деяких глядачів, які прийняли його за справжнє фото.

2023 року переможцем у категорії «creative open» на Sony World Photography Awards[en] став Борис Ельдагсен, який після перемоги розкрив, що його робота насправді була породжена штучним інтелектом. Фотограф Фероз Хан прокоментував BBC, що Ельдагсен «чітко показав, що навіть досвідчених фотографів та експертів з мистецтва можливо обдурити».[92] Зачепило й менші конкурси; 2023 року конкурс під назвою «Self-Published Fantasy Blog-Off[en] cover contest», який проводив письменник Марк Лоуренс[en], було скасовано після того, як переможну роботу було викрито як колаж зображень, породжених Midjourney.[93]

Ширші проблеми виходять за межі світу живопису. Як і з іншими видами фотоманіпулювання[en] з початку XIX століття, деякі люди на початку XXI століття стурбовані тим, що ШІ можуть використовувати для створення оманливого вмісту, відомого як «дипфейки».[94]

У травні 2023 року широку увагу привернуло породжене Midjourney фото Папи Франциска у білому пуховику,[95][96] й інше, яке показує вигаданий арешт Дональда Трампа,[97] а породжене ШІ зображення атаки на Пентагон стало вірусною новиною-розіграшем на Twitter.[98]

Художній вплив[ред. | ред. код]

Збір інформації для забезпечення сировини для художнього виробництва породжує питання класифікування породжених ШІ зображень як мистецтва. Коли людські ідеї та машинне виробництво співпрацюють, машині належить право бути визнаною художницею.[99] Штучний інтелект намагається імітувати людську творчість, що призводить до дискусій про те, чи обмежує це імітування його творчі можливості.[100] Здатність людей емоційно зв'язуватися з породженими ШІ роботами ставили під питання.[101]

Етика[ред. | ред. код]

Створені ШІ зображення викликають занепокоєння багатьох художників щодо того, як суспільство цінує художника. Художники бояться, що виробництво на основі ШІ сприйматиметься як поліпшення поточної системи через його здатність до швидкого створювання.[102] Системи ШІ збирають дані для створення рішень, і коли дані збираються з різних джерел, виникає питання, чи можна використовувати ці дані для створення твору.[103] Ґалантер вводить питання визначення того, як давати визнання через процес міркувань, розрізняючи художника та художні впливи.[104]

Аналіз наявного живопису за допомогою ШІ[ред. | ред. код]

На додачу до створення оригінального живопису, було породжено методи дослідження, які використовують ШІ, для кількісного аналізу цифрових зібрань творів. Це стало можливим завдяки масштабному оцифровуванню творів мистецтва протягом останніх декількох десятиліть. Незважаючи на те, що основною метою оцифровування було забезпечення доступності та дослідження цих зібрань, використання ШІ для їх аналізу внесло нові наукові підходи.[105]

Типовими підходами, які використовують для аналізу оцифрованого живопису, є два обчислювальних методи, глибоке прочитання (англ. close reading) та розглядання звіддаля (англ. distant viewing).[106] Глибоке прочитання зосереджується на конкретних візуальних аспектах одного твору. До деяких завдань, виконуваних машинами методами глибокого прочитання, належать обчислювальна автентифікація художника та аналіз мазків чи властивостей текстури. На противагу цьому, за допомогою методів розглядання звіддаля можливо статистично унаочнювати схожість над усім зібранням за певною ознакою. До поширених завдань, пов'язаних із цим методом, належать автоматичне класифікування, виявляння об'єктів, мультимодальні завдання, відкриття знань з історії мистецтва, та обчислювальна естетика.[105] В той час як розглядання звіддаля містить аналіз великих зібрань, глибоке прочитання залучає один твір мистецтва.[джерело?]

Дослідники також запропонували моделі, які передбачують емоційні реакції на живопис, такі як ArtEmis, великомасштабний набір даних з моделями машинного навчання, які містять емоційні реакції на образотворче мистецтво, а також передбачення емоцій від зображень чи тексту.[107]

За Цетиніч та Ше (2022), використання штучного інтелекту для аналізу вже наявних зібрань живопису може надати свіжі погляди на розвиток художніх стилів та визначення художніх впливів. Дослідження наявного живопису за допомогою ШІ також може сприяти організації художніх виставок та підтримці процесу ухвалювання рішень для кураторів та істориків живопису.[108]

Програми ШІ можуть автоматично породжувати нові зображення творів мистецтва, схожі на ті, які вони вивчили з вибірки. Людям потрібно переважно лише вводити дані та виокремлювати результати, поєднання механізмів ШІ та людських механізмів створення живопису дозволяє ШІ створювати твори.[109]

Інші види мистецтва[ред. | ред. код]

Деякі прототипи роботів можуть створювати те, що можна вважати видами мистецтва — наприклад, динамічні роботи-кухарі, які можуть смакувати[en] та коригувати смак.[110]

Також існує підтримка написання текстів за допомогою ШІ, яка виходить за межі редагування[111] (включно з допомогою у створенні вигаданих історій, таких як допомога при творчій кризі[en] або натхнення чи переписування фрагментів).[112][113][114][115]

Породжувальний ШІ також використовують у виробництві відеоігор не лише для зображень[en], особливо для розробки рівнів (наприклад, для спеціальних карт) та створення нового вмісту чи інтерактивних історій у відеоіграх.[116][117]

Див. також[ред. | ред. код]

Примітки[ред. | ред. код]

  1. Epstein, Ziv; Hertzmann, Aaron; Akten, Memo; Farid, Hany; Fjeld, Jessica; Frank, Morgan R.; Groh, Matthew; Herman, Laura; Leach, Neil; Mahari, Robert; Pentland, Alex “Sandy”; Russakovsky, Olga; Schroeder, Hope; Smith, Amy (2023). Art and the science of generative AI. Science (англ.). 380 (6650): 1110—1111. arXiv:2306.04141. Bibcode:2023Sci...380.1110E. doi:10.1126/science.adh4451. PMID 37319193. S2CID 259095707.
  2. Noel Sharkey (4 липня 2007), A programmable robot from 60 AD (англ.), т. 2611, New Scientist, архів оригіналу за 13 січня 2018, процитовано 22 жовтня 2019
  3. Brett, Gerard (липень 1954), The Automata in the Byzantine "Throne of Solomon", Speculum (англ.), 29 (3): 477—487, doi:10.2307/2846790, ISSN 0038-7134, JSTOR 2846790, S2CID 163031682.
  4. kelinich (8 березня 2014). Maillardet's Automaton. The Franklin Institute (англ.). Процитовано 24 серпня 2023.
  5. Crevier, Daniel (1993). AI: The Tumultuous Search for Artificial Intelligence (англ.). New York, NY: BasicBooks. с. 109. ISBN 0-465-02997-3.
  6. Newquist, HP (1994). The Brain Makers: Genius, Ego, And Greed In The Quest For Machines That Think (англ.). New York: Macmillan/SAMS. с. 45–53. ISBN 978-0-672-30412-5.
  7. а б Elgammal, Ahmed (2019). AI Is Blurring the Definition of Artist. American Scientist (англ.). 107 (1): 18. doi:10.1511/2019.107.1.18. ISSN 0003-0996. S2CID 125379532.
  8. Greenfield, Gary (3 квітня 2015). When the machine made art: the troubled history of computer art, by Grant D. Taylor. Journal of Mathematics and the Arts (англ.). 9 (1–2): 44—47. doi:10.1080/17513472.2015.1009865. ISSN 1751-3472. S2CID 118762731.
  9. McCorduck, Pamela (1991). AARONS's Code: Meta-Art. Artificial Intelligence, and the Work of Harold Cohen (English) . New York: W. H. Freeman and Company. с. 210. ISBN 0-7167-2173-2.
  10. Poltronieri, Fabrizio Augusto; Hänska, Max (23 жовтня 2019). Technical Images and Visual Art in the Era of Artificial Intelligence. Proceedings of the 9th International Conference on Digital and Interactive Arts (англ.). Braga Portugal: ACM. с. 1—8. doi:10.1145/3359852.3359865. ISBN 978-1-4503-7250-3. S2CID 208109113.
  11. Fine art print - crypto art. Kate Vass Galerie (амер.). Процитовано 7 травня 2022.
  12. HAROLD COHEN (1928–2016). Art Forum (амер.). 9 травня 2016. Процитовано 19 вересня 2023.
  13. Golden Nicas. Ars Electronica Center (амер.). Процитовано 26 лютого 2023.
  14. Panspermia by Karl Sims, 1990. www.karlsims.com. Процитовано 26 лютого 2023.
  15. Liquid Selves by Karl Sims, 1992. www.karlsims.com. Процитовано 26 лютого 2023.
  16. "Mayoral reporting: Free Press wins top honor". (1 квітня 2009). Detroit Free Press, с. 5A. (англ.)
  17. "Free Press wins its 9th Pulitzer; Reporting led to downfall of mayor". (21 квітня 2009). Detroit Free Press, с.1A. (англ.)
  18. "The 2009 Pulitzer Prize Winners: Local Reporting". The Pulitzer Prizes. Отримано 26 жовтня 2013. (англ.)
  19. а б Толстова, Д. Д.; Ющенко, О. Г. (2019). Удосконалення творчої нейромережі генерування художніх зображень на основі розпізнаних (PDF). ХІІІ Міжнародна науково-практична конференція магістрантів та аспірантів (укр.). с. 154.
  20. а б Оболенцев, В. Ф.; Ющенко, О. Г. (2 грудня 2019). Застосування методів штучного інтелекту у юриспруденції (PDF). У Гетьман, А. П.; Головкін, Б. М. (ред.). Протидія організованій злочинності і корупції. ХІХ Всеукраїнська наукова конференція з кримінології для студентів, аспірантів та молодих вчених (укр.). Харків: Право. с. 138—139.
  21. а б Толстова, Д. Д.; Оболенцев, В. Ф.; Ющенко, О. Г. (2 грудня 2019). Удосконалення творчої нейромережі генерування зображень правопорушників на основі розпізнаних (PDF). У Гетьман, А. П.; Головкін, Б. М. (ред.). Протидія організованій злочинності і корупції. ХІХ Всеукраїнська наукова конференція з кримінології для студентів, аспірантів та молодих вчених (укр.). Харків: Право. с. 185—186.
  22. Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). Generative Adversarial Nets (PDF). Proceedings of the International Conference on Neural Information Processing Systems (NIPS 2014) (англ.). с. 2672—2680.
  23. Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). DeepDream - a code example for visualizing Neural Networks (англ.). Google Research. Архів оригіналу за 8 липня 2015.
  24. Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). Inceptionism: Going Deeper into Neural Networks (англ.). Google Research. Архів оригіналу за 3 липня 2015.
  25. Szegedy, Christian; Liu, Wei; Jia, Yangqing; Sermanet, Pierre; Reed, Scott E.; Anguelov, Dragomir; Erhan, Dumitru; Vanhoucke, Vincent; Rabinovich, Andrew (2015). Going deeper with convolutions. IEEE Conference on Computer Vision and Pattern Recognition, CVPR 2015, Boston, MA, USA, June 7–12, 2015 (англ.). IEEE Computer Society. с. 1—9. arXiv:1409.4842. doi:10.1109/CVPR.2015.7298594.
  26. Mordvintsev, Alexander; Olah, Christopher; Tyka, Mike (2015). DeepDream - приклад коду для візуалізації нейронних мереж (англ.). Google Research. Архів оригіналу за 8 липня 2015.
  27. Is artificial intelligence set to become art's next medium?. Christie's (англ.). 12 грудня 2018. Процитовано 21 травня 2019.
  28. Portrait by AI program sells for $432,000. BBC News (англ.). 25 жовтня 2018. Процитовано 21 травня 2019.
  29. Cohn, Gabe (25 жовтня 2018). AI Art at Christie's Sells for $432,500. New York Times (англ.). Процитовано 21 травня 2019.
  30. Not the Only One. Creative Capital (англ.). Процитовано 26 лютого 2023.
  31. Sougwen Chung. The Lumen Prize (en-GB) . Процитовано 26 лютого 2023.
  32. Vincent, James (24 травня 2022). All these images were generated by Google's latest text-to-image AI. The Verge (англ.). Vox Media. Процитовано 28 травня 2022.
  33. Ramesh, Aditya; Pavlov, Mikhail; Goh, Gabriel; Gray, Scott; Voss, Chelsea; Radford, Alec; Chen, Mark; Sutskever, Ilya (24 лютого 2021). «Zero-Shot Text-to-Image Generation» (en). arXiv:2102.12092 [cs.LG]. 
  34. а б Burgess, Phillip. Generating AI "Art" with VQGAN+CLIP. Adafruit[en] (англ.). Процитовано 20 липня 2022.
  35. Radford, Alec; Kim, Jong Wook; Hallacy, Chris; Ramesh, Aditya; Goh, Gabriel; Agarwal, Sandhini; Sastry, Girish; Askell, Amanda та ін. (2021). «Learning Transferable Visual Models From Natural Language Supervision» (en). arXiv:2103.00020 [cs.CV]. 
  36. Rose, Janus (18 липня 2022). Inside Midjourney, The Generative Art AI That Rivals DALL-E (англ.). Vice.
  37. Diffuse The Rest - a Hugging Face Space by huggingface. huggingface.co (англ.). Архів оригіналу за 5 вересня 2022. Процитовано 5 вересня 2022.
  38. Refik Anadol: Unsupervised | MoMA. The Museum of Modern Art (англ.). Процитовано 26 лютого 2023.
  39. A.I. photo filters use neural networks to make photos look like Picassos. Digital Trends (англ.). 18 November 2019. Процитовано 9 November 2022.
  40. Biersdorfer, J. D. (4 December 2019). From Camera Roll to Canvas: Make Art From Your Photos. The New York Times (англ.). Процитовано 9 November 2022.
  41. Simon, Joel. About (англ.). Архів оригіналу за 2 березня 2021. Процитовано 3 березня 2021.
  42. George, Binto; Carmichael, Gail (2021). Mathai, Susan (ред.). Artificial Intelligence Simplified: Understanding Basic Concepts -- the Second Edition (англ.). CSTrends LLP. с. 7—25. ISBN 9781944708047.
  43. Lee, Giacomo (21 липня 2020). Will this creepy AI platform put artists out of a job?. Digital Arts Online (англ.). Архів оригіналу за 22 грудня 2020. Процитовано 3 березня 2021.
  44. Here's DALL-E: An algorithm learned to draw anything you tell it. NBC News (англ.). 27 січня 2021. Процитовано 23 січня 2021.
  45. NUWA-Infinity. nuwa-infinity.microsoft.com (англ.). Процитовано 10 серпня 2022.
  46. Vincent, James (24 травня 2022). All these images were generated by Google's latest text-to-image AI. The Verge (англ.). Vox Media. Процитовано 28 травня 2022.
  47. а б Heikkilä, Melissa (16 вересня 2022). This artist is dominating AI-generated art. And he's not happy about it. MIT Technology Review (англ.). Процитовано 2 жовтня 2022.
  48. Stable Diffusion. CompVis - Machine Vision and Learning LMU Munich. 15 вересня 2022. Процитовано 15 вересня 2022.
  49. Stable Diffusion creator Stability AI accelerates open-source AI, raises $101M. VentureBeat (англ.). 18 жовтня 2022. Процитовано 10 листопада 2022.
  50. Choudhary, Lokesh (23 вересня 2022). These new innovations are being built on top of Stable Diffusion. Analytics India Magazine (англ.). Процитовано 9 листопада 2022.
  51. Dave James (27 жовтня 2022). I thrashed the RTX 4090 for 8 hours straight training Stable Diffusion to paint like my uncle Hermann. PC Gamer (англ.). Процитовано 9 листопада 2022.
  52. Lewis, Nick (16 вересня 2022). How to Run Stable Diffusion Locally With a GUI on Windows. How-To Geek (англ.). Процитовано 9 листопада 2022.
  53. Edwards, Benj (4 жовтня 2022). Begone, polygons: 1993's Virtua Fighter gets smoothed out by AI. Ars Technica (en-us) . Процитовано 9 листопада 2022.
  54. Mehta, Sourabh (17 вересня 2022). How to Generate an Image from Text using Stable Diffusion in Python. Analytics India Magazine (англ.). Процитовано 16 листопада 2022.
  55. Psychotic, Pharma. Tools and Resources for AI Art (англ.). Архів оригіналу за 4 червня 2022. Процитовано 26 червня 2022.
  56. а б в г Elgan, Mike (1 November 2022). How 'synthetic media' will transform business forever. Computerworld (англ.). Процитовано 9 November 2022.
  57. Robertson, Adi (15 November 2022). How DeviantArt is navigating the AI art minefield. The Verge (англ.). Процитовано 16 November 2022.
  58. Proulx, Natalie (September 2022). Are A.I.-Generated Pictures Art?. The New York Times (англ.). Процитовано 16 November 2022.
  59. а б Roose, Kevin (21 October 2022). A.I.-Generated Art Is Already Transforming Creative Work. The New York Times (англ.). Процитовано 16 November 2022.
  60. Vincent, James (15 September 2022). Anyone can use this AI art generator — that's the risk. The Verge (англ.). Процитовано 9 November 2022.
  61. Davenport, Corbin. This AI Art Gallery Is Even Better Than Using a Generator. How-To Geek (англ.). Процитовано 9 November 2022.
  62. Robertson, Adi (2 September 2022). Professional AI whisperers have launched a marketplace for DALL-E prompts. The Verge (англ.). Процитовано 9 November 2022.
  63. Text-zu-Bild-Revolution: Stable Diffusion ermöglicht KI-Bildgenerieren für alle. heise online (нім.). Процитовано 9 November 2022.
  64. Mohamad Diab, Julian Herrera, Musical Sleep, Bob Chernow, Coco Mao (28 жовтня 2022). Stable Diffusion Prompt Book (PDF) (англ.). Процитовано 7 серпня 2023.
  65. Reinhuber, Elke (2 December 2021). Synthography–An Invitation to Reconsider the Rapidly Changing Toolkit of Digital Image Creation as a New Genre Beyond Photography (англ.). Google Scholar. Процитовано 20 December 2022.
  66. Gal, Rinon; Alaluf, Yuval; Atzmon, Yuval; Patashnik, Or; Bermano, Amit H.; Chechik, Gal; Cohen-Or, Daniel (2 August 2022). «An Image is Worth One Word: Personalizing Text-to-Image Generation using Textual Inversion» (en). arXiv:2208.01618 [cs.CV]. 
  67. Textual Inversion · AUTOMATIC1111/stable-diffusion-webui Wiki. GitHub (англ.). Процитовано 9 November 2022.
  68. а б Leswing, Kif. Why Silicon Valley is so excited about awkward drawings done by artificial intelligence. CNBC (англ.). Процитовано 16 November 2022.
  69. Metz, Rachel (3 вересня 2022). AI won an art contest, and artists are furious. CNN (англ.). Процитовано 2 жовтня 2022.
  70. Edwards, Benj (12 вересня 2022). Flooded with AI-generated images, some art communities ban them completely. Ars Technica (англ.). Процитовано 2 жовтня 2022.
  71. Ocampo, Rodolfo (13 вересня 2022). AI art is everywhere right now. Even experts don't know what it will mean. The Conversation (англ.). Процитовано 2 жовтня 2022.
  72. Pamela, Samuelson (1985). Allocating Ownership Rights in Computer-Generated Works. U. Pittsburgh L. Rev. (англ.). 47: 1185.
  73. Victor, Palace (січень 2019). Allocating Ownership Rights in Computer-Generated Works. Fla. L. Rev. (англ.). 71 (1): 231—241.
  74. а б Vallance, Chris (13 вересня 2022). "Art is dead Dude" - the rise of the AI artists stirs debate. BBC News (англ.). Процитовано 2 жовтня 2022.
  75. а б Plunkett, Luke (25 серпня 2022). AI Creating 'Art' Is An Ethical And Copyright Nightmare. Kotaku (англ.). Процитовано 21 грудня 2022.
  76. Edwards, Benj (15 грудня 2022). Artists stage mass protest against AI-generated artwork on ArtStation. Ars Technica (англ.). Процитовано 21 грудня 2022.
  77. Magazine, Smithsonian; Recker, Jane. U.S. Copyright Office Rules A.I. Art Can't Be Copyrighted. Smithsonian Magazine (англ.).
  78. You can't copyright AI-created art, according to US officials. Engadget (англ.). 13 грудня 2022.
  79. Re: Second Request for Reconsideration for Refusal to Register A Recent Entrance to Paradise (PDF) (англ.).
  80. Cho, Winston (18 серпня 2023). AI-Created Art Isn't Copyrightable, Judge Says in Ruling That Could Give Hollywood Studios Pause. Hollywood Reporter (англ.). Процитовано 19 серпня 2023.
  81. Chayka, Kyle (10 лютого 2023). Is A.I. Art Stealing from Artists?. The New Yorker (амер.). ISSN 0028-792X. Процитовано 6 вересня 2023.
  82. James Vincent "AI art tools Stable Diffusion and Midjourney targeted with copyright lawsuit" The Verge, 16 січня 2023. (англ.)
  83. Korn, Jennifer (17 січня 2023). Getty Images suing the makers of popular AI art tool for allegedly stealing photos. CNN (англ.). Процитовано 22 січня 2023.
  84. Brittain, Blake (19 липня 2023). US judge finds flaws in artists' lawsuit against AI companies. Reuters (англ.). Процитовано 6 серпня 2023.
  85. а б в г д е ж и к Jiang, Harry H.; Brown, Lauren; Cheng, Jessica; Khan, Mehtab; Gupta, Abhishek; Workman, Deja; Hanna, Alex; Flowers, Johnathan; Gebru, Timnit (8 серпня 2023). AI Art and its Impact on Artists. Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society (англ.). ACM. с. 363—374. doi:10.1145/3600211.3604681. ISBN 979-8-4007-0231-0. S2CID 261279983.
  86. King, Hope (10 серпня 2022). AI-generated digital art spurs debate about news illustrations. Axios (англ.). Процитовано 2 жовтня 2022.
  87. Salkowitz, Rob (16 вересня 2022). AI Is Coming For Commercial Art Jobs. Can It Be Stopped?. Forbes (англ.). Процитовано 2 жовтня 2022.
  88. Inie, Nanna; Falk, Jeanette; Tanimoto, Steve (19 квітня 2023). Designing Participatory AI: Creative Professionals' Worries and Expectations about Generative AI. Extended Abstracts of the 2023 CHI Conference on Human Factors in Computing Systems (англ.). ACM. с. 1—8. arXiv:2303.08931. doi:10.1145/3544549.3585657. ISBN 978-1-4503-9422-2. S2CID 257557305.
  89. а б Roose, Kevin (2022). An A.I.-Generated Picture Won an Art Prize. Artists Aren't Happy. The New York Times (англ.).
  90. а б An AI-Generated Artwork Won First Place at a State Fair Fine Arts Competition, and Artists Are Pissed. Vice (англ.). Процитовано 15 вересня 2022.
  91. Whitten, Sarah (13 липня 2023). Actors union joins writers on strike, shutting down Hollywood. CNBC (англ.). Процитовано 20 жовтня 2023.
  92. Sony World Photography Award 2023: Winner refuses award after revealing AI creation. BBC News (англ.). 17 квітня 2023. Процитовано 16 червня 2023.
  93. Sato, Mia (9 червня 2023). How AI art killed an indie book cover contest. The Verge (англ.). Процитовано 19 червня 2023.
  94. Wiggers, Kyle (24 серпня 2022). Deepfakes: Uncensored AI art model prompts ethics questions. TechCrunch (англ.). Процитовано 15 вересня 2022.
  95. Novak, Matt. That Viral Image Of Pope Francis Wearing A White Puffer Coat Is Totally Fake. Forbes (англ.). Процитовано 16 червня 2023.
  96. Stokel-Walker, Chris (27 березня 2023). We Spoke To The Guy Who Created The Viral AI Image Of The Pope That Fooled The World. BuzzFeed News (англ.). Процитовано 16 червня 2023.
  97. Trump shares deepfake photo of himself praying as AI images of arrest spread online. The Independent (англ.). 24 березня 2023. Процитовано 16 червня 2023.
  98. Oremus, Will; Harwell, Drew; Armus, Teo (22 травня 2023). A tweet about a Pentagon explosion was fake. It still went viral. Washington Post (амер.). ISSN 0190-8286. Процитовано 16 червня 2023.
  99. Nake, F. (4 січня 2017). Art in the Time of the Artificial. Leonardo (англ.). S2CID 194427422.
  100. Esling, Philippe; Devis, Ninon (2020). «Creativity in the era of artificial intelligence» (en). arXiv:2008.05959 [cs.CY]. 
  101. Demmer, Theresa Rahel; Kühnapfel, Corinna; Fingerhut, Joerg; Pelowski, Matthew (1 листопада 2023). Does an emotional connection to art really require a human artist? Emotion and intentionality responses to AI- versus human-created art and impact on aesthetic experience. Computers in Human Behavior (англ.). 148: 107875. doi:10.1016/j.chb.2023.107875. ISSN 0747-5632. S2CID 259927404.
  102. Making Scientic Instruments in the Industrial Revolution, Making Scientific Instruments in the Industrial Revolution (англ.), Routledge, 2 березня 2017, с. 39—62, doi:10.4324/9781315250007-9, ISBN 9781315250007, процитовано 4 жовтня 2023
  103. Stark, Luke; Crawford, Kate (7 вересня 2019). The Work of Art in the Age of Artificial Intelligence: What Artists Can Teach Us About the Ethics of Data Practice. Surveillance & Society (англ.). 17 (3/4): 442—455. doi:10.24908/ss.v17i3/4.10821. ISSN 1477-7487. S2CID 214218440.
  104. Galanter, Philip (21 липня 2020). Towards Ethical Relationships with Machines That Make Art. Artnodes (англ.) (26). doi:10.7238/a.v0i26.3371. ISSN 1695-5951. S2CID 216233786.
  105. а б Cetinic, Eva; She, James (16 лютого 2022). Understanding and Creating Art with AI: Review and Outlook. ACM Transactions on Multimedia Computing, Communications, and Applications (англ.). 18 (2): 66:1–66:22. arXiv:2102.09109. doi:10.1145/3475799. ISSN 1551-6857. S2CID 231951381.
  106. Lang, Sabine; Ommer, Bjorn (2018). Reflecting on How Artworks Are Processed and Analyzed by Computer Vision: Supplementary Material. Proceedings of the European Conference on Computer Vision (ECCV) Workshops (англ.) — через Computer Vision Foundation.
  107. Achlioptas, Panos; Ovsjanikov, Maks; Haydarov, Kilichbek; Elhoseiny, Mohamed; Guibas, Leonidas (2021-01-18). «ArtEmis: Affective Language for Visual Art» (en). arXiv:2101.07396 [cs.CV]. 
  108. Cetinic, Eva; She, James (31 травня 2022). Understanding and Creating Art with AI: Review and Outlook. ACM Transactions on Multimedia Computing, Communications, and Applications (англ.). 18 (2): 1—22. arXiv:2102.09109. doi:10.1145/3475799. ISSN 1551-6857. S2CID 231951381.
  109. Tao, Feng (4 березня 2022). A New Harmonisation of Art and Technology: Philosophic Interpretations of Artificial Intelligence Art. Critical Arts (англ.). 36 (1–2): 110—125. doi:10.1080/02560046.2022.2112725. ISSN 0256-0046. S2CID 251755563.
  110. Sochacki, Grzegorz; Abdulali, Arsen; Iida, Fumiya (2022). Mastication-Enhanced Taste-Based Classification of Multi-Ingredient Dishes for Robotic Cooking. Frontiers in Robotics and AI (англ.). 9: 886074. doi:10.3389/frobt.2022.886074. ISSN 2296-9144. PMC 9114309. PMID 35603082.
  111. Katsnelson, Alla (29 August 2022). Poor English skills? New AIs help researchers to write better. Nature (англ.). 609 (7925): 208—209. Bibcode:2022Natur.609..208K. doi:10.1038/d41586-022-02767-9. PMID 36038730. S2CID 251931306.
  112. KoboldAI/KoboldAI-Client. GitHub. 9 November 2022. Процитовано 9 November 2022.
  113. Dzieza, Josh (20 July 2022). Can AI write good novels?. The Verge (англ.). Процитовано 16 November 2022.
  114. AI Writing Assistants: A Cure for Writer's Block or Modern-Day Clippy?. PCMAG (англ.). Процитовано 16 November 2022.
  115. Song, Victoria (2 November 2022). Google's new prototype AI tool does the writing for you. The Verge (англ.). Процитовано 16 November 2022.
  116. Yannakakis, Geogios N. (15 May 2012). Game AI revisited. Proceedings of the 9th conference on Computing Frontiers (англ.). с. 285—292. doi:10.1145/2212908.2212954. ISBN 9781450312158. S2CID 4335529.
  117. AI creates new levels for Doom and Super Mario games. BBC News (англ.). 8 May 2018. Процитовано 9 November 2022.