[Интервју] Дан Лахав од „IBM“: Технологијата не треба да го победи, туку да го зајакне човекот

Пред четврт век голема црна кутија на која беа испишани трите препознатливи букви „IBM“ беше поставена наспроти еден од најголемите шахисти на сите времиња, Гари Каспаров. Во шест партии, светски шампион во шах за прв пат изгуби од компјутер и со тоа означи нова ера во односот на луѓето кон технологијата.

22 години подоцна, во февруари лани, нова црна кутија со истите три букви – „IBM“ беше поставена покрај еден од најдобрите светски дебатери, Хариш Натараџан. Машината и човекот дебатираа за субвенции на предучилишното образование. Машината изгуби, барем според гласањето на публиката. Но, слушајќи ја дебатата, ретко кој би препознал дека во неа има само еден човек. Оддава само компјутерскиот женски глас кој од црната кутија исфрлаше реплики како: „дали сакате сиромашните да ви просат пред вашиот куќен праг?“.

Новиот дуел „машината против човекот“ покажа дека вештачката интелигенција и компјутерските системи стануваат сè пософистицирани дури и во сферите кои се толку многу во доменот на луѓето, како дебатирањето и аргументирањето.

На проектот за машината за дебатирање работи Дан Лахав, истражувач во „IBM“. Покрај компјутерските науки, тој и самиот е врвен дебатер. Во 2018 беше крунисан за светски шампион во дебатирање, а во својата биографија има над 50 дебатерски трофеи.

Лахав на овогодишната конференција за друштвен активизам Engage 2020 говореше за „Проектот Дебатер“, a во интервју за Радио МОФ зборува и за квалитетот на политичката дебата во ерата на нови технологии и социјални медиуми, а ги кажува и неговите предвидувања околу виртуелната интелигенција, нејзиното влијание врз општествениот дискурс, но и за придобивките и ризиците од нејзината примена.

Што претставува машината за дебатирање која ја развивате во „IBM“?

„Проект Дебатер“, или она што вие го нарекувате машина за дебатирање, е последниот во серијата на предизвици поврзани со вештачката интелигенција. Ако погледнете историски, во 1950-тите години имаше обид да се направи машина за играње табла која би можела да игра против човек. Во 90-тите беше шахот и познатиот меч меѓу компјутерот на „IBM“ „Deep Blue“ и Каспаров. Во втората декада на 21-от век тоа беше играта го и квизот „Jeopardy“. Се појави прашање: што следно треба да направи вештачката интелигенција. Сите вработени во „IBM“ добија мејл со ова прашање. По долго анализирање на одговорите, одлуката беше да се направи машина за дебатирање. Причината за таков предизвик беше да се демонстрира дека е можна значајна, долга дебата, меѓу човек и машина. Не само кратки меѓусебни реплики.

Како функционира оваа технологија?

Машината има огромен корпус од 400 милиони различни статии, што е отприлика 10 милијарди аргументи. За јас и вие да ги прочитаме сите нив би ни биле потребни илјадници години. Во првиот дел машината добива теза – како на пример „дали е потребно субвенционирање на предучилишно образование?“, и потоа таа ги проверува овие 400 милиони текстови и сфаќа кои реченици се релевантни за темата и дали тие ја поткрепуваат вашата страна од дебатата. Потоа ги обработува речениците и ги отстранува непотребностите. Откако го прави тоа, потоа машината ги групира речениците и ги состава на начин преку кој артикулира аргументи.

Која би можела да биде примената на една ваква технологија?

Првичната идеја беше да се употреби во истражување. На пример, во шах, табла, го… тие имаат јасни правила на поентирање. Точно знаете кога сте победиле, кога е шах-мат. Но, кај дебатата, тоа е многу тешко да се оцени. Затоа и идејата беше интересен интелектуален предизвик. Да се направи нешто што е толку силно во сферата на човекот и толку субјективно. Кога зборуваме за примената, постојат многу различни начини на кои може да се употребува. Во медицината, правото, политиката… На пример, да се биде асистент-одлучувач на луѓето. Ако можете да ги соберете сите „за“ и „против“ аргументи за некоја одлука, на човекот тоа би му било голем предизвик. Сега замислете дека имате „смарт“ асистент кој би можел да ви избира и селектира релевантни поенти за да ви го олесни и подобри вашиот процес на одлучување.

Друга примена би била да побараме луѓето да ги внесуваат своите аргументи по одредено прашање. Еден таков експеримент направивме во Лугано, Швајцарија. Ја зедовме темата „автономни возила“, општината требаше да одлучи дали вакви возила да се дозволат или не. Доколку сте политичар и сакате да ги слушнете мислењата на граѓаните кои ги застапувате, треба да направите анкета. Но, тешко е да се соберат мислењата на граѓаните, дури и во еден вака мал град. Сепак, доколку имате можност лесно да ги соберете аргументите од сите и да се направат кратки сумирани говори засновани на нивните мислења, тоа би можело да биде многу појасно и за политичарите и за сите останати. Во Лугано го направивме ова и говорите составени од нашата машина ги презентиравме во општинскиот совет.

Веќе го споменавте „Deep Blue“, првиот компјутер кој победи шаховски светски шампион пред 25 години. Кога вештачката интелигенција ќе може да ги победи луѓето во дебата?

Целта на овие машини, за разлика од другите натпревари, не е победа. Минатиот февруари имавме презентација во која „Проект Дебатер“ имаше дуел со еден од најдобрите светски дебатери, Хариш Натараџан. И, тоа, навистина беше дуел во кој публиката гласаше за победник. Но, поентата не е дали луѓето можат да ја победат машината, или обратно. Патем, човекот победи во тој дуел. Сепак второто прашање за публиката, кое можеби беше и поважно гласеше: „Кој повеќе ви го зголеми вашето знаење, машината или човекот?“ и овде имаше огромна доминација за машината. Мислам дека начинот на кој треба да го гледаме развојот на овие технологии не е дали тие ќе можат да ги победат луѓето. Постојат сфери во кои машините се далеку зад луѓето – разбирањето на емоции, сфаќањето на културниот контекст на светот, можноста да се изразуваат со различни нијанси и техники на јазикот. Ова е многу тешко за машините. Можеби во иднина нешто од овие работи ќе се развијат на доволно напредно ниво, но за нас пребарувањето низ содржините на огромен број документи и формирање мислења и достигање на знаење преку отстранување на некои пристрасности е многу тешко. Она што веројатно е извесно, е дека луѓето би можеле да се зајакнат со машините, преку она во што тие се подобри, а не дека би постоела некаква конкуренција во иднина.

Дан Лахав на ENGAGE 2020

Покрај работата на овој проект вие сте многу успешни и во дебатирањето. Кое е вашето мислење за политичката дебата денес? Особено во контекст на растот на популистичките движења и лидери во голем број земји?

Ако поставевте прашање во раната фаза на интернетот веројатно би добиле одговор дека повеќе информации, по дефиниција ќе доведе до подобро носење одлуки. Сепак, она што го сфативме е дека прашањето исто така е – што можете да направите со информацијата. Живееме во време во кое сè е достапно, но интерпретацијата станува сè повеќе и повеќе клучна. Можноста за мешање на идеи за конструкција на соодветни мисли и контекст сега е најважна за способноста да се има права политичка дебата. Би рекол дека технологијата ја збогати дебатата, со тоа што сега многу повеќе луѓе можат да учествуваат во неа. Очигледно е дека тоа не е перфектно и дека сè уште постојат заедници кои не се вклучени. Но, од друга страна тоа што многу луѓе се разочарани е тоа што сега постои многу поголема видливост. Мислам дека инклузијата расте, но она што ме загрижува е дека луѓето стануваат побучни, а не се вклучуваат вистински со желба да влијаат на носењето одлуки кон подобрување на општеството. Јас сум оптимист и верувам дека со време ќе наоѓаме повеќе и повеќе начини за да ги подобриме работите, но тоа не значи дека не постојат големи ризици кои ќе треба да се надминат, а технологијата само ги нагласува уште повеќе. Ехо-коморите или филтер-меурите, кои ги заробуваат луѓето да не можат да ја видат другата страна на аргументот. Ова се глобални проблеми. Луѓето ја губат надежта и апетитот за комплексност, а како резултат на тоа сакаат плитка, поедноставена верзија на аргументот. Така популистите најчесто доаѓаат во ситуација да победат.

Сепак технологијата станува пософистицирана и алармира кога има контроверзна ситуација или кога е потребна подобра дискусија по некое прашање и според мене тоа ќе претрпи многу промени во следната деценија. Слично како што интернетот ја промени целата ситуација пред неколку децении. Веројатно ќе поминеме повторно низ тоа, бидејќи веќе гледаме мали назнаки за тоа. Јазикот кој се користи онлајн, каде се префрли целосната комуникација, се смени. Користењето слики, емоџија, краткиот јазик е промена, но е и индикатор за фактот дека ќе можеме да добиваме помош во артикулирањето на идеи како индивидуи.

Кога дебатираат или пак се во кампања, политичарите најчесто играат на емоциите на публиката, а не на рационалните аргументи. Една од критиките на политичките дебати денес е дека тие не се подложни на брза проверка на факти и дека политичарите можат да кажат секакви лаги и да поминат неказнето. Дали машините можат да помогнат во сферата на автоматска проверка на факти, особено во политиката?

Проверката на фактите генерално е многу комплициран проблем, а воопшто и да не зборуваме за проверката во реално време. Дезинформациите често се незгодни. Некогаш најголемиот дел од нив е информација која е точна, со мал дел кој не е. Или пак постојаното движење од мислење кон факт. Ќе стануваме подобри во автоматското регистрирање на ова. Мислам дека е важно да се посочи со прст дека ова лице лаже. Но, исто така мислам дека само проверување на фактите нема да биде доволно како решение. Ајде да речеме дека живееме во совршен технолошки свет, каде ова прашање е целосно решен проблем и дека секој кој јавно зборува би имал некој детектор за лаги кој со 100 процентна точност би утврдил кога некој би кажал лага. Дали тогаш луѓето би биле убедени во нешто што е изговорено? Не сум сигурен. Тоа е решение на дел од проблемот, но не и на целиот проблем. Она што мислам дека е возбудливо е можноста, не само да се утврди автоматски дека некој лаже, туку и да се пронајде говор од спротивната страна. Замислете свет во кој политичарите од левицата би одржале говор, а вие би можеле автоматски да имате опција да го погледнете и говорот на политичарите од десницата на истото прашање. Можеби некој би сакал, можеби некој не, но со самото тоа што некој би можел да го види и говорот на другата страна, тоа би ги принудило политичарите да имаат подобри говори. Дали тоа целосно би ги намалило негативностите на модерниот дискурс? Сигурно дека не. Но, овие услуги можат да придонесат кон постојано подобрување на нас како луѓе во вистинска насока. Лажењето ќе биде проблем, кој нема да исчезне. Сепак, надежите се дека заобиколувањето на проблемот со лагите ќе биде многу подобрено во блиска иднина.

Во моментов технологијата во политичката сфера има одреден негативен призвук. Постојано се поврзува со злоупотреби – од ширењето на лажни вести, манипулации и дезинформации на социјалните мрежи, преку злоупотреба на приватни податоци па се до „дип фејк“ технологијата која веќе смета за потенцијална закана во блиска иднина. Колку сериозен проблем е тој негативен публицитет кој го стекнуваат новите технологии кога се злоупотребуваат во политички цели?

Технологиите се само алатка, но прашањето кое постојано се поставува е како ние ги користиме. Ако го земеме интернетот, можеме да го гледаме како неверојатна алатка која ни дава информации и ни го подобрува животот – на пример јас денеска веројатно немаше да бидам овде без овој свет на отворени комуникации – сепак истите технолошки платформи се користат од ужасно зли луѓе за трговија со луѓе преку интернет, трговија со оружје, дрога и слично. Начинот на кој треба да се гледа технологијата секогаш не треба да биде само низ гледање на екстремите, туку на вообичаеното користење. Секогаш кога создавате нова алатка некои луѓе ќе гледаат како да ја злоупотребат. На пример ова мешање од една држава во изборите на друга држава се случуваше многу пред тоа да се случи на последните избори во САД, или пак во „Брегзит“ кампањата. Тоа не е нов феномен.

Кое е решението?

Прво, треба да има овластен авторитет кој внимава страните да дејствуваат добронамерно. Да ги следи шаблоните за тоа како изгледа потенцијалниот злоупотребувач и дали се работи за лажен корисник и да се направат обиди да се блокираат овие луѓе и да се лимитира нивното дејство. Второ, е создавање на технологија чии намери, а приори, би биле во согласност со добронамерно користење. На пример автоматско вметнување на барање за балансирана содржина во самиот алгоритам, со што би се осигурале дека луѓето би биле изложени на двете страни од аргументот. Тогаш дури и доколку пристап би имале злонамерни центри нивната злоупотреба на системот би била многу помалку ефикасна. И, трето, што е малку повисоко, филозофско, размислување за позиционирањето на технологијата кон човештвото, и тоа треба да биде кажано искрено – технологијата воведува и нови можности, но и нова пристрасност.

Луѓето мора да бидат свесни дека доаѓа нова ера, со нови можности и дека дискурсот ќе биде трансформиран како резултат на напредокот на вештачката интелигенција и друг развој во компјутерските науки и комуниколошките технологии. Ова доаѓа со огромна количина на можности за подобрување на дискусијата, било таа да е онлајн или офлајн. Но, доаѓа и со големи ризици. Прво што треба да се направи за справување со овие ризици е сфаќањето дека тие постојат и да се осигураме дека платформите и технологијата е одговорна на добронамерната употреба. За тоа ни треба свесност и дискусии и затоа се важни и конференции како оваа на која сум присутен.

Даниел Евросимоски