Обраќање на Еди Рама на Генералното собрание на ОН

Изгледа дека е редот на мене да проповедам во оваа пустина каде што се собираме секоја година, и овој ред дојде и јас го прифаќам тоа како привилегија на малкумина. Господине претседателе, Почитувани претставници на народите на Обединетите нации, Многу позитивно сум изненаден што многу пријатели сакаа да дознаат што се случува во нашата земја со вештачката интелигенција и помислив дека е добра идеја да ги споделам со вас моите размислувања за тоа. Барутот го промени бојното поле. Нуклеарната фисија го промени значењето на човечкото преживување. Вештачката интелигенција менува нешто уште поинтимно. Кој може да влезе во умот на еден граѓанин, да имитира глас на кој му се верува, да произведе реалност калибрирана според стравовите на една личност и да го направи тоа милиони пати истовремено? Албанија не е развивач на модели од последната генерација, но ние сме нација која веќе ја живеела иднината за која други сè уште дебатираат. Мислам дека пораката што ви ја должиме е исклучително едноставна. Најнепосредниот и најголемиот ризик не е дека вештачката интелигенција ќе престане да му се покорува на човештвото. Најголемиот ризик ќе биде што совршено ќе му се покорува на погрешниот поединец. Предизвикот доаѓа на три нивоа, во три слоја. Што ни прави, што прави вештачката интелигенција во нашата земја? Што ни прави нам и кој ја стекнува моќта да допре до нас. Прво, што прави во нашата земја? Всушност, јавната дебата замислува машини кои се будат, имаат амбиции и се свртуваат против своите создавачи, но системите со кои се соочуваме денес не се будат со омраза во своето срце. Тие ја умножуваат нашата. Тие немаат сопствени амбиции, туку им служат на амбициите на другите. Не носат знамиња, но можат да бидат распоредени од една држава. Не кажуваат лаги за свој интерес, но можат да кажат милијарди лаги во интерес на други. Машината нема свест, но може да ја позајми моќта на една влада, прецизноста на едно оружје и интимноста на еден пријател. А во исто време, економските поттици што ја опкружуваат вештачката интелигенција сè повеќе го наградуваат заменувањето на човечкиот напор наместо проширувањето и зголемувањето на човечкиот капацитет. „Напиши го кодот за да не морам да го разберам.“ „Направи го извештајот за да не морам да размислувам низ него.“ „Донесувам одлука, донеси ја наместо мене за да не морам да сносам одговорност за неа.“ Кога успехот се мери само според тоа колку работа машината му одзела на човекот, можеме да создадеме поефикасни институции, но ќе имаме помалку способни луѓе. Цивилизација која постепено го исклучува напорот може да го даде своето знаење на надворешни субјекти. Цивилизација која го остава своето знаење во рацете на други, понатаму може да го остави и судењето во нивни раце. А цивилизација што го предава судењето може да открие дека всушност ја предала и одговорноста на надворешни субјекти. А тоа не е неизбежност, туку избор. Можеме да изградиме вештачка интелигенција која учи, наместо само да одговара, која насочува, наместо само да командува, и која го зајакнува човекот, наместо човекот да стане зависен од неа. Прашањето не треба да биде колку брзо машината ја завршила работата. Треба да го поставиме прашањето: што научи човекот? Кој ја разбрал одлуката? Кој може да ја оспори таа одлука и кој одговара за одлуката кога таа е погрешна? Албанија стана првата земја што воведе инструмент на вештачка интелигенција во архитектурата на владата преку Диела, нашата светски позната министерка за вештачка интелигенција, и тоа не го направивме за да го пренесеме суверенитетот од луѓето на машината. Го направивме за јавните услуги да бидат подостапни, процедурите потранспарентни, а државата поодговорна. Ниту една машина не носи демократски легитимитет и ниту еден алгоритам не наследува уставна одговорност. Зад секоја одлука со јавен импакт мора да останат законски мандат, човечка институција и име кое може да биде повикано да одговара. Вториот слој е она што вештачката интелигенција може да ни го направи. Вештачката интелигенција во една земја и држава која е одговорна пред граѓаните може да ја намали дистанцата меѓу граѓаните и јавните услуги. Во меѓувреме, вештачката интелигенција без одговорност може да ја елиминира дистанцата меѓу лагата и човечкиот ум. Албанија директно го доживеа тоа и сигурен сум дека сте го следеле или едноставно сте слушнале за таканаречената „револуција на фламинга“. Измислена приказна за израелска инвазија на албанското крајбрежје. Инвазија која никогаш не се случи. Беше фабрикувана, персонализирана и пренесувана преку гласови, страници и канали на кои граѓаните веќе им веруваа. Еден граѓанин доби приказна за национално предавство, друг слушна приказна за верска провокација, додека трет доби конспирација за странска инвазија. Различни измислици влегуваа во различни емоционални светови, сите во служба на истата стратешка лага. Последиците беа реални. Граѓаните имаа свои причини да протестираат, немојте погрешно да ме разберете, но одеднаш почнаа да протестираат и против фантомски непријател. Антисемитскиот израз за првпат влезе во нашиот јавен дискурс. Не заборавајте, Албанија е единствената земја во Европа која ја заврши Втората светска војна со повеќе Евреи отколку што имала на нејзиниот почеток. Стравот се претвори во гнев. Гневот се претвори во мобилизација, а измислицата се претвори во политичка реалност и тоа не беше лабораториски експеримент. Не ви зборувам за научно-фантастични филмови. Тоа беше само еден вторник во Тирана, нашиот главен град. Алгоритмот не ја измисли целта. Човечки актер го направи тоа. Алгоритмот не ја разви, не ја запали омразата, туку откри како да ја активира нашата омраза. Ова е систематска измама како услуга. Мешањето во изборите повеќе не бара само телевизиска станица или парче пропаганда што се повторува пред целото население. Сега може да дејствува со прецизност насочена кон секој поединечен гласач. Двајца соседи можат да живеат на иста улица, да гласаат на истите избори и да живеат во целосно различни реалности, од кои секоја е создадена специфично за секој од нив. Кога тоа ќе се случи, демократијата не губи само една дебата или само еден изборен циклус, туку ја губи заедничката почва врз која дебатата станува можна, а ја губи и можноста таа дебата воопшто да постои. Суверенитетот повеќе не се поткопува само на границата, туку се поткопува во „фидовите“. Во XX век суверенитетот значеше контрола врз земјата, територијалните води и националниот воздушен простор. Денес во Европа трчаме како луди за да трошиме сè повеќе пари што ги немаме за да ги заштитиме нашите земји, нашето небо од можна војна во иднина, но некако забораваме дека во векот во кој живееме, тоа мора да значи и способноста на едно слободно општество да ги заштити условите во кои неговите граѓани го формираат своето мислење. Без оваа способност, суверенитетот над земјата и небото станува само илузија. И тогаш доаѓа третиот слој: дистрибуцијата. Со векови најголемата закана за слободата на говорот беше цензурата. Денес слободата на говорот исто така е загрозена од употребата на слободата на дистрибуција како оружје. Говорот е право да се изрази идеја, а дистрибуцијата е моќта таа идеја да се стави пред милиони луѓе. Говорот му припаѓа на човекот. Дистрибуцијата може да се купи, автоматизира, манипулира и тајно насочува, да биде тајно поставена од платформи, корпорации, криминални мрежи и странски држави. Правото да се зборува е универзално, но не постои универзално право на анонимна, неограничена и вештачки засилена дистрибуција. Кога една лага се умножува милијарди пати, вистината повеќе не мора да биде цензурирана, бидејќи едноставно е закопана. Граѓанинот формално останува слободен да зборува, но зборува во бура со која ниту еден човечки глас не може да се справи. Слободата на говорот, следствено, може да претрпи пораз без да биде забранета ниту една книга, без да биде затворен ниту еден новинар и без да биде избришан ниту еден пост. Одговорот на лошиот говор останува повеќе слобода на говорот, но одговорот на тајното и индустриско засилување мора да биде разоткривање и тоа мора да се направи порано отколку подоцна. Кој ја создаде пораката, кој плати за неа? Ја ширеа луѓе или машини? Зошто беше таргетиран граѓанинот? Дали видливата јавна реакција беше оригинална, координирана или насочувана однадвор? Да ја заштитиш демократијата, да го заштитиш начинот на живот и слободата на секоја нација да живее на свој начин, не значи да контролираш што им е дозволено на луѓето да мислат. Тоа значи да се откријат скриените сили кои сакаат да контролираат што луѓето се принудени да гледаат. Ако ја браниме слободата на изразување оставајќи ја контролата врз дистрибуцијата целосно во темнина, тогаш тоа е исто како да ја браниш вратата, а да ја предадеш целата соба. Некои одговараат со барање вештачката интелигенција да се запре или забави. Ние сме многу мали, но со најголема почит не би се согласиле. Пауза од…