Од програмот за играње AlphaGo до филмот 2001: A Space Odyssey, често добиваме опомена за заканата од компјутерите. Но, има ли начин да се живее покрај технологијата?
Машини: четири. Луѓе: еден. Тоа е резултатот од натпреварот меѓу AlphaGo алгоритмот на Гугл и шампионот меѓу луѓето, Ли Седол, во комплицираната кинеска игра го. Тоа го повлече прашањето: што е следно? Каде ќе ја прогласат машините својата следна победа: ќе ви ја земат работата, ќе ги решат мистериите на науката, ќе ги надминат способностите на човекот во спалната соба?
Успехот на AlphaGo се должи на вештачката интелигенција. Компјутерскиот програм се научи себеси како да ја подобри својата игра, играјќи милиони натпревари против себе. Но, проблемот со користење на игрите како шах и го како мери за технолошки напредок е во тоа што тие се натпревар. Има победник и губитник, а најголемата новина во технологијата овој месец имаше чиста победа.
Ова е чест наратив на интеракцијата меѓу луѓето и машините: изумот се пресметува со своите креатори, за на крај да ги надмине. Научната фантастика е полна со приказни за роботи кои ги напаѓаат луѓето, а понекогаш во нив има и друга страна – заведување.
Машините или сакаат да не елиминираат (Skynet во Terminator 2, Hal во 2001: A Space Odyssey), или да не доведат во состојба да им се предадеме (симулираниот свет во Matrix, зависноста од машините во WALL-E). Понекогаш, ги прават и двете нешта. Ова се само приказни, но се моќни и откриваат многу, а се и полесни за сфаќање од она што навистина се случува.
Според YouGov анкета на Британската научна асоцијација на повеќе од 2000 луѓе, јавното мислење за вештачката интелигенција варира зависно од примената. Вкупно 70 посто од испитаниците се среќни што интелигентните машини можат да извршуваат работи како надзор на берба, но процентот паѓа на 49 кога станува збор за задачи во домаќинството. Само 23 посто би се наслониле на машина при хируршка операциа. Најниското ниво на доверба луѓето го имаат кога станува збор за сексуална работа, бидејќи само 17 посто им веруваат на роботите со вештачка интелигенција во ова поле.
Резултатите одблизу го покажуваат нивото на интимност, вештачката интелигенција е прифатлива, но оддалеку. Одблизу и лично, недостатокот од човечко лице значи многу повеќе. Сето тоа има смисол, но остава едно прашање неодговорено: што значи за една машина да изврши задача?
Овде сликата на робот кој ја презема работата на човек не може да биде попогрешна. Кога станува збор за најзначајните примени на технологијата, не сме ниту узурпирани ниту заведени, бидејќи системот за кој зборуваме не е ни најмалку сличен на нас во функциите или составот. Како вид, ние не се натпреваруваме со информатичката технологија воопшто. Наместо тоа, ние се адаптираме на нашиот свет и стануваме нешто што машините не можат да го разберат.
Размислете што значи да научите автономен робот да прави нешто навистина едноставно, како да коси трева. Прво, земате долга жица и ја положувате внимателно околу вашата градина. Потоа ја пуштате косилката да ја следи линијата. Ако не ви е важно како изгледа градината или не знаете да косите, само ја пуштате косилката насекаде се додека не го покрила цел простор. Успешно сте адаптирале една средина, во случајот вашата градина, во нешто што машината го разбира.
Го позајмив овој пример од филозофот на технологија, Лучијано Флориди, кој во неговата книга „Четвртата револуција“ го истражува степенот до кој радикално сме ги адаптирале најголемиот дел од околините во кои живееме и работиме за машините да можат да ги сфатат. Тој забележува дека „сме го создавале светот околу информатичката технологија со децении пред тоа да го сфатиме“. Тој смета дека сме пакувале се во слоеви на податоци кои се толку дебели, што веќе не можат да се сфатат вон сеќавањето, брзината и моќноста за препознавање на шаблони на машината.
Велам „сфаќа“, но AlphaGo не ја разбира играта го повеќе од тоа што робот-косилка го разбира концептот на градина. Тоа што го разбира се нули и единици и шаблони кои можат да ги извлечат од процесирањето на она што го знаат. Ние преведуваме, машините повторуваат и изведуваат. Понатаму, машините преведуваат за други машини, пренесувајќи ги своите податоци без интервенција.
Кога арената е нешто јасно, како игра, каде правилата се сосема познати и секогаш исти, резултатите се вчудовидувачки. Кога арената е нешто неуредно, непредвидливо и недефинитано како актуелност, адаптацијата и преводот се многу потешки.
Ајде да замислиме, предлага Флориди, две лица во врска. Едниот е екстремно тврдоглав, нефлексибилен и неволен за промена. Другиот е сосема спротивен: адаптибилен, сочуствителен и флексибилен. Не треба да си гениј да видиш како тоа ќе заврши. Кога една личност е волна да направи компромис, а другата не, се повеќе и повеќе задачи се извршуваат на начинот на кој партнерот кој не сака компромиси инсистира. Флексибилниот партнер со текот на времето ќе го адаптира целиот свој живот на желбите на нефлексибилниот партнер.
Кога станува збор за интеракции меѓу луѓе и машини, дури и најпаметниот систем со вештачка интелигенција е помалку флексибилен од најнефлексибилниот човек. Или ги правиме работите како што системот ги разбира, или не ги правиме воопшто. Од таму доаѓа една од најкорисните фрази во популарната култура во изминатите 15 години, „компјутерот вели не“.
„Компјутерот вели не“, мрмори вработен како одговор на совршено разумно барање, куцајќи само една цифра на тастатурата. Не е важно што сакаат милион луѓе, ако таа опција не е на менито, исто е како да не постои.
Во социологијата, ова е познато како право на малцинството. Само 5 посто од населението, на пример, можат да отстранат одреден избор од секој друг преку нефлексибилност. Ако готвам за 100 луше и знам дека пет од нив не можат да консумираат лактоза, ќе зготвам нешто што им одговара на сите. Ако доаѓа еден пар вегани, а јас немам капацитети да готвам различна храна за сите, од изборот ќе исфрлам уште некој вид на храна.
Во ера во која машините се имплицираат во повеќе и повеќе од нашите најинтимни одлуки, малцинството чии правила важат се оние кои ги дизајнираат самите машини. Дури и најпаметниот систем со вештачка интелигенција немилосрдно ќе го следи својот код кога ќе стапи на сила.
Моментот кога ќе стигнеме до „компјутерот вели не“, ќе биде предоцна. Технологијата е овде, во својот моментум. Треба да преговараме за нашата согласност или одбивање порано и колективно.
А за овие преговори да функционираат, мора да прашаме што значи да се преведат не само продуктивноста и профитот, но и другите вредности во целите и дозволите на системот: правда, можност, слобода, сочувство. „Човештвото вели не“ не е фраза за нашиот век, не се уште. Но можно е да треба да стане.
Том Четфилд, британски писател и коментатор за дигитална култура, автор на книгите „Живеј ја оваа книга“, „Нетимологија“ и „Како да успеете во дигиталната ера“, за Guardian.