Штучний інтелект — загроза чи допомога людству? Який
вплив на людину має ШІ і чи правда, що він цілодобово стежить за нами? Які саме
професії він витіснить і що робити вже зараз, щоб штучний інтелект не став
нашим ворогом? Знаний ізраїльський філософ, історик і автор книг Ювал Ной
Харарі у книзі «Nexus: Коротка історія інформаційних мереж від кам’яного віку
до ШІ» (видання Bookchef)
досліджує ШІ-феномен і чесно говорить про вплив штучного інтелекту на майбутнє
людства. Підготували головні тези автора про користь та загрози ШІ людству.
Починаючи з 2024 року ШІ
цілодобово стежить за населенням країн
На думку одного з
видатних філософів сучасності Ювала Ноя Харарі, 2024 рік став перелолмним в
історії людства, адже ознаменував собою початок епохи, коли штучний інтелект
може цілодобово стежити за населенням цілих країн.
Цій мережі не потрібно наймати й навчати мільйони людей, як за нами
стежити. Натомість вона використовує цифрових агентів, за яких навіть не
потрібно платити. Громадяни з власної волі платять за агнентів і всюди їх
носять із собою. Ми самі стали інформаторами, які постачають мережі первісні
дані про себе. Навіть той, хто не має смартфона, майже завжди залишається в
полі зору камери, мікрофона чи системи спостереження. Бо він так само постійно
взаємодіє з комп’ютерною мережею, коли шукає роботу чи купує квиток на потяг,
отримує рецепт у лікаря чи просто гуляє вулицею. Комп’ютерні мережі стали
основою більшості аспектів людської діяльності. Майже кожна фінансова,
соціальна чи політична транзакція передбачає участь комп’ютерів. Колись Адам і
Єва не могли сховатися від очей Бога у раю, а тепер нам несила сховатися від
всевидячих очей хмарних технологій.
Вплив ШІ на людину і
суспільство: кінець приватності
Ювал Ной Харарі
переконаний: у світі, де за людьми стежать комп’ютери, уперше в історії загроза
повного зникнення приватності може стати реальністю.
Найвідоміші й найекстремальніші випадки тотального стеження здебільшого
пов’язані або з надзвичайними ситуаціями на кшталт пандемії Covid-19, або з
регіонами, де порушено усталений міжнародний порядок. Це окуповані палестинські
території, Сіньцзян-Уйгурський автономний район у Китаї, регіон Кашмір в Індії,
окупований росією Крим, американо-мексиканський кордон чи афгано-пакистанський
прикордонний регіон. У цей складний час у цих «виняткових» регіонах якраз і
запроваджують нові шпигунські технології: у поєднанні з драконівськими законами
й значною присутністю поліцейських і військових сил вони невпинно відстежують і
контролюють пересування людей, їхні дії і навіть почуття. Але важливо розуміти,
що системи спостереження на основі ШІ впроваджуються у величезних масштабах, і
не тільки в таких «виняткових умовах».
Хочемо ми того чи ні,
але для боротьби зі злочинністю, для придушення інакомислення чи з метою
протидії внутрішнім загрозам (реальним або уявним) уряди впроваджують на всій
території всепроникну мережу онлайн і офлайн-спостереження. Це:
- шпигунські
програми;
- камери
відеоспостереження;
- програмне
забезпечення для розпізнавання облич та голосу;
- величезні
бази даних з можливістю пошуку.
За бажанням уряду така
шпигунська мережа може охопити все: від ринків до храмів, від шкіл до приватних
помешкань.
Сьогодні алгоритми
розпізнавання облич і пошукові бази даних на основі ШІ стали звичними
інструментами поліції в усьому світі — розпізнавання облич допомагає
ідентифікувати викрадених дітей, навіть якщо минуло багато років.
Технологію розпізнавання
облич використовують навіть деякі футбольні клуби, щоб ідентифікувати хуліганів
і заборонити їм відвідувати стадіон. Як це працює? Під час матчів усіх 30 000
уболівальників просять зняти маски, шапки й окуляри, після чого комп’ютер
сканує обличчя і звіряє зі списком порушників, яким вже заборонили відвідувати
стадіон.
Ювал Ной Харарі влучно
зауважує, що потрапивши не в ті руки, ШІ-технології, окрім можливості рятувати
зниклих дітей і недопуску до заходів злісних порушників, можуть перетворитися
на інструмент переслідування мирних демонстрантів чи примусового насадження
жорсткого конформізму.
Зрештою, технології спостереження на основі ШІ можуть стати фундаментом
режимів тоталітарного контролю, які цілодобово стежитимуть за громадянами й
забезпечуватимуть реалізацію нових форм повсюдних і автоматизованих
тоталітарних репресій.
До прикладу, ще у 2022
році влада Ірану переклала більшу частину роботи із забезпечення дотримання
законів про хіджаб на загальнонаціональну систему алгоритмів розпізнавання
облич — це ті самі алгоритми, що до цього вели безперервне стеження за фізичним
та онлайн-середовищем. У 2023 році алгоритми почали ідентифікувати жінок, які
не носять хіджаб під час поїздки в транспорті. На перший раз жінки отримують
смс-попередження, а в разі повторного порушення жінці видають постанову про
блокування авто на визначений термін. У разі невиконання авто конфіскують. Лише
за два місяці ця система надіслала близько мільйона смс-повідомлень жінкам,
яких зафіксували з неприкритим обличчям в їхніх особистих автомобілях. Система
розпізнає, що перед нею не чоловік, а жінка без покриття, ідентифікує її особу
й надсилає на номер мобільного повідомлення. І вже зараз іранську поліцію
зобов’язали «розробляти й посилювати системи ШІ для ідентифікації осіб, які
порушують закон, за допомогою стаціонарних і мобільних камер». У найближчі роки
чимало людей житимуть, імовірно, в умовах тотального нагляду, порівняно з яким
Румунія за часів Чаушеску здаватиметься майже лібертаріанською утопією.
Які професії витіснить
штучний інтелект?
Філософ Харарі у своїй
книзі детально описує вплив штучного інтелекту на майбутнє професій. І
застерігає: алгоритми з часом можуть замінити не лише рутинні, а й творчі
професії і професії з емоційною складовою.
У 1970-х філософ
Г’юберт Дрейфус у праці What Computers Can’t Do доводив, що машини ніколи не
обіграють людей у шахи. Сьогодні ж комп’ютери не лише перевершили гросмейстерів,
а й виявилися «креативнішими» у пошуку нових стратегій. А ось із чим у ШІ досі
складнощі — це прибрати у вашому домі й розвісити прання: моторних навичок
«розумаха» не має. Тож, як вважає Ювал Ной Харарі, людство переоцінює
інтелектуальні професії. Замисліться: роботу лікаря автоматизувати
простіше, ніж медсестри. Лікар аналізує дані та ставить діагноз —
дії, що піддаються алгоритмізації. Медсестра працює з фізичним болем і емоціями
пацієнта. Саме тому, за словами Харарі, у майбутньому найбільшу цінність
матимуть соціальні й моторні навички, а не лише аналітичне мислення.
Значення творчості також
переоцінено, на думку мислителя. Адже якщо творчість — це здатність
розпізнавати закономірності й порушувати їх, тоді ШІ теж може претендувати на
звання митця. Адже пише музику, створює оповідання й казки. Та й загалом у
розпізнаванні закономірностей ШІ вже перевершив людей.
Ще одне твердження щодо
ШІ, яке філософ і письменник вважає помилковим, — неможливість для алгоритмів
зрозуміти й опанувати емоційний інтелект.
Емоції — це також
патерни, які можна навчитися розпізнавати, — переконаний Харарі. В одному з
досліджень 2023 року ChatGPT продемонстрував вищий рівень емоційної
обізнаності, ніж середньостатистична людина, аналізуючи гіпотетичні життєві
ситуації. В іншому експерименті пацієнти, не знаючи, що спілкуються з ботом, оцінювали емпатію ChatGPT вище,
ніж у лікарів-людей.
Звісно, люди хочуть
відчувати ще й справжній емоційний зв’язок з іншими людьми, окрім розуміння
їхніх потреб. Саме тому гравці, спортсмени чи духовні лідери залишаються в
центрі уваги світу, в якому ШІ може перевершити людей у виконанні тих чи тих
функцій.
Загроза штучного
інтелекту: що робити вже зараз, щоб ШІ не став ворогом людства № 1?
Найперше, про що
говорить філософ і автор книг Ювал Ной Харарі в контексті протидії загрозам ШІ,
— навчити штучний інтелект визнавати, що він може помилятися. Алгоритми, як і
діти на початку життєвого шляху, повинні навчитися сумніватись у собі. А ще
сигналізувати про невпевненість й підкорятися принципу обережності.
Тут немає нічого неможливого. Інженери досягли значних успіхів у
заохочуванні ШІ висловлювати невпевненість у собі, просити про зворотний
зв’язок і визнавати свої помилки.
Проте хай наскільки
алгоритми усвідомлюють свою здатність помилятися, ми, люди, повинні залишатись
пильними. Враховуючи темпи розвитку ШІ, просто неможливо передбачити, як він
еволюціонує, і неможливо захиститись від усіх потенційних небезпек. І це
найголовніша відмінність ШІ від попередніх екзистенційних загроз, таких як
ядерні технології. Останні надали людству кілька передбачуваних сценаріїв кінця
світу, і найочевиднішим з них стала загроза повномасштабної ядерної війни. Це
означало, що можна заздалегідь концептуалізувати небезпеку й дослідити шляхи її
зменшення. ШІ, навпаки, пропонує нам незліченну кількість сценаріїв кінця світу
— від використання ШІ терористами для виробництва біологічної зброї масового
знищення до створення за допомогою ШІ нової психологічної зброї масового
знищення.
Коментарі
Дописати коментар