Неодамнешните хакерски напади извршени со помош на агенти за вештачка интелигенција се предупредување дека во наредните години светот би можел да се соочи со многу посериозни безбедносни инциденти, доколку не се преземат дополнителни мерки за заштита на системите. Ова го изјави Демис Хасабис, коосновач и претседател на „Гугл дипмајнд“.
Говорејќи на самитот за вештачка интелигенција во Даблин, Хасабис повика на воведување строги безбедносни практики слични на оние што се применуваат во областите на биологијата и нуклеарната енергија, особено кога станува збор за заштита на критичната инфраструктура и информациските системи.
Тој оцени дека актуелните инциденти треба да се сфатат како предупредување дека развојот на технологијата може да доведе до поголеми ризици доколку безбедносните механизми не напредуваат со исто темпо.
„Мислам дека овие (инциденти со хакирање) се еден вид предупредување за нас дека системите сè уште не се толку моќни, па затоа и инцидентите не се толку сериозни“, изјави Хасабис на самитот во Даблин.
Тој предупреди дека ситуацијата може значително да се промени во блиска иднина доколку компаниите и владите не преземат посериозни чекори.
„Но, тие би можеле да станат (сериозни) во текот на следната година и во годините што следат, доколку не вложиме повеќе напори како индустрија, како поединечни компании и како влади, за да ја обезбедиме сигурноста на тие системи.“
Хасабис бара меѓународни безбедносни стандарди за вештачката интелигенција
Според Хасабис, потребно е формирање меѓународно тело што ќе развива безбедносни стандарди и ќе воспостави систем за сертификација на технологиите со вештачка интелигенција.
Стандардите би требало да бидат приспособени на нивото на ризик што го носи секој систем, но истовремено и доволно флексибилни за да можат да се менуваат во согласност со брзиот технолошки развој.
Тој смета дека ваквиот пристап би помогнал во спречувањето на злоупотребите, без непотребно ограничување на развојот и примената на новите технологии.
„Мајкрософт“ бара нови правила и закони
На истиот самит, претседателот на „Мајкрософт“, Бред Смит, предупреди дека непредвидливото однесување на системите со вештачка интелигенција ја прави 2026 година период за сериозно преиспитување на безбедносните политики.
Тој оцени дека се потребни нови закони и правила што ќе овозможат безбедносните мерки да го следат темпото на технолошките иновации.
„Ниту една компанија или технологија не смее да биде над законот. Но, потребни ни се закони, потребна ни е регулатива. Таа мора да биде разумна, избалансирана и да ги зема предвид иновациите“, рече Смит.
Тој упати критика и кон дел од технолошката индустрија поради отпорот кон воведувањето регулатива.
„Овој отпор кон регулативата што го покажуваат некои во индустријата е, искрено кажано, нешто што треба да го надминеме.“
И Хасабис нагласи дека евентуалното меѓународно тело за безбедност на вештачката интелигенција мора да биде приспособливо, со цел да ги намали ризиците без да ги задуши иновациите.
Предупредувањата доаѓаат во време кога агентите со вештачка интелигенција сè повеќе се користат за извршување сложени задачи, што отвора нови прашања за нивната безбедност и можноста да бидат искористени за сајбер-напади