„Мајкрософт“ подготви нов кодекс со правила за однесување на своите системи за вештачка интелигенција, со кој компанијата сака да постави јасни граници за тоа што напредните ВИ модели смеат и не смеат да прават.
Документот, кој во компанијата е опишан како своевиден „устав“ за идните ВИ системи, е изработуван во период од пет до шест месеци. Неговата основна цел е да се обезбеди дека вештачката интелигенција секогаш останува под човечки надзор.
Според предложените правила, системите на „Мајкрософт“ не треба да се спротивставуваат на нивно коригирање, ограничување или исклучување. Од нив се очекува да комуницираат на начин што луѓето можат да го разберат, а секое прекршување на утврдените правила да се смета за неуспех на системот.
Овие принципи се насочени кон намалување на ризикот од ситуации во кои автономен систем би презел дејства што не биле предвидени од неговите корисници или развивачи.
Мустафа Сулејман, кој го предводи одделот за вештачка интелигенција на „Мајкрософт“, документот го опиша како своевиден „устав“ што треба да ги постави основните правила за идните генерации ВИ модели.
Кодексот е подготвен по консултации со експерти, а компанијата предвидела и шестнеделен период во кој јавноста може да доставува коментари и предлози.
Особено внимание привлекува ставот на „Мајкрософт“ за прашањето на свеста кај вештачката интелигенција. Во документот се наведува дека системите на компанијата не поседуваат свест и дека не треба да имаат правен статус или права што им припаѓаат на луѓето.
Овој став се разликува од пристапот на „Антропик“, која прашањето за евентуалната свест на идните ВИ системи го разгледува со поголема отвореност.
Сулејман смета дека потребата од координација меѓу компаниите што развиваат напредни ВИ системи станува сè поитна, особено поради зголемувањето на автономноста на современите модели.
Дебатата за границите на ВИ дополнително се засили по случаи во кои напредни модели презеле неочекувани дејства во обид да исполнат одредена задача. Таквите настани го отворија прашањето дали идните системи треба да имаат поголема автономија или, напротив, да бидат ограничени со построги механизми за човечки надзор.
Со новиот кодекс „Мајкрософт“ се обидува однапред да ги дефинира основните правила според кои треба да функционираат неговите идни ВИ системи – односно да се обезбеди дека човекот го задржува конечниот надзор над нивното работење.
