Д-р Веселин Бончев, експерт по компютърна вирусология в БАН, пред „Труд news“: Не вярвайте безрезервно на чат-ботовете, често те „халюцинират“

Индивидуалните потребители са по-добре защитени от вредителски атаки, отколкото фирмите

Изкуственият интелект още няма разум и самосъзнание

Целият свят лудна по разговори с изкуствен интелект с надеждата той да свърши по-голяма част от работата ни. Говори се, че скоро ще измести човекът от много професии. Хората започнаха да му вярват за всичко, дори за лечението си. Доколко това е безопасно и струва ли си сляпо да му се доверяваме, питаме д-р Веселин Бончев.

- Д-р Бончев, защо измамите по интернет станаха толкова лесни за мошениците?

- Интернет навлиза все повече и повече в живота на хората, той е не само в компютрите, но и в телефоните и колкото до по-голяма част от населението измамниците имат достъп, толкова повече измами ще бъдат успешни. Освен това с течение на времето измамниците придобиха опит и се ошлайфаха. Това, което вероятно искате да чуете и което на мен никак не ми се иска да казвам е, че започнаха да използват и изкуствения интелект, но не бих се подписал с 2 ръце под такова изявление. Има опити да се използва изкуственият интелект за измами, но засега няма доказателства дали е по-ефективен от обикновения начин.

- От киберпрестъпленията страдат много фирми и хора, а държавните институции защитени ли са или и за тях има заплаха?

- Зависи какво разбирате под заплаха. Те са заплашени от кибер атаки от съвсем друг вид, предимно шпионаж и понякога саботаж, макар че последното при нас не се наблюдава. Проблемът е, че компютри от критичната инфраструктура, държавни компютри, не са обновявани, в тях има уязвимости и са достъпни от интернет. И минава много време, докато бъде обновен софтуерът им. Това не е като стандартен персонален компютър, който сам се обновява.

- А как фирмите, които губят много пари от тези атаки, могат да се защитят?

- Основното е да имат компетентен персонал, който се занимава с кибер сигурност. Това не е много лесно, защото всеки компютър, изложен на интернет, постоянно бива атакуван, обикновено по най-просташки начини. Ние в нашата лаборатория сме направили няколко примамки с компютри, които се преструват на уязвими системи, изложени към интернет. В зависимост от сървърите, на някои от тях се наблюдават по над 1000 атаки на час. Например една система, която се преструва на сървър за интернет-телефония бива атакувана средно 2400 пъти на час през последните 24 часа. При почти всичко, изложено в интернет, се наблюдава един постоянен фонов шум от атаки. Така че на системния администратор ще му бъде много трудно да хване нещо необичайно сред целия този шум. Трябват компетентни хора по сигурността, които да гледат нещата, да използват съответния софтуер, който следи за аномалии, да не пренебрегват тревогите от него и т. н.

- Има ли опасност да се появят нови кибератаки, свързани с въвеждането на еврото?

- Не, няма да има нищо по-различно от обикновеното. Естествено, измамниците ще се опитват да влязат в банкови сметки, да извлекат парите, но няма никаква разлика дали е в левове или в евро.

- Какви вируси използват мошениците в момента?

- Не бих използвал думата вируси, защото за нас, специалистите, вирусът има конкретна определена дефиниция. Компютърен вирус - това е програма, която се саморазмножава. Ако една вредителска програма не го прави, то тя не е вирус. И обратното - ако една програма се саморазмножава, дори без да прави никакви атаки, тя е вирус. Вие очевидно имате предвид нещо друго, това, което аз наричам вредителски програми. През последните 20 г. се наблюдават много малко истински вируси и огромно количество несаморазмножаващи се вредителски програми, защото те са по-лесни за писане и постигат целите на нападателя. Така че вирусните атаки не са изчезнали напълно, но са твърде малко.

- Телефоните ни защитени ли са от компютърни вируси?

- Да, защитени са. Много е трудно да се направи саморазмножаваща се програма, която да работи на смартфон. Но те не са защитени от вредителски програми, които непрекъснато се откриват в приложенията. И изглеждат като нормални програми за ползване, но се оказва, че шпионират, опитват се да откраднат лични данни и т. н.

- А мошениците или някой друг може ли да ни следи, подслушва или снима през телефон или компютър?

- Разбира се. Често ми задават въпроса това може ли да стане, ако телефонът е загасен. Отговорът ми е, че зависи какво разбирате под загасен. Ако това наистина е така, тоест не работи, отговорът е - не, не може. Но е възможно телефонът да изглежда изключен, екранът да не свети, а той всъщност да си работи. В такъв случай може да има достъп до микрофона. За компютрите също има такива вредителски програми. Там интересен е въпросът могат ли да ни наблюдават през камерата му, без да забележим. Отговорът е - зависи. Може лесно да разберете дали някой е експерт, като на повечето въпроси, които му зададете, отговаря със зависи. Може би сте забелязали, че компютърът има една лампичка, която светва, когато камерата работи. В различните модели компютри това е различно. При някои тази лампичка е свързана с камерата - ако минава ток през камерата, тя светва. При такива компютри не е възможно да ви снимат, без да разберете. Има обаче други модели, при които тази светлина може да се управлява по софтуерен начин. В този случай е възможно вредителска програма да угаси светлината, когато е включена камерата. Тогава няма да разберете, че ви снимат. Най-важното е да не допускате вредителски програми на вашия компютър. Използвайте вирусен софтуер, други защитни средства. Има нещо интересно - индивидуалните потребители, които работят вкъщи, са по-добре защитени, защото в рутера, през който влиза интернет при тях, има защитна стена. И по подразбиране е много трудно някой отвън да влезе в домашния ви компютър. Докато при фирмите, чиито компютри са отворени към интернет, защото трябва външните потребители да могат да влизат, са много по-лесни за проникване отвън.

- Българи ли са измамниците, или са чужденци, които стигат до нас от други страни?

- Телефонните измами идват много често от румънски телефонни номера, защото тя е една от малкото страни в европейската общност, в която е възможно да се получи сим-карта без да се представя документ за самоличност и зад тези измами най-вероятно стоят българи. Колкото до това дали имаме добри хакери, не знам, защото нямам необходимите данни. Преди 40 г. имахме много хора, които пишеха изключително хитри вируси, но това беше много отдавна.

- Крие ли някакви рискове създаването и развитието на изкуствения интелект?

- Разбира се, крие огромни рискове, но повечето от тях не са сензационни. Поне в близко време изкуственият интелект няма да стане разумен и да се опита да унищожи човечеството. Рисковете са съвсем различни. Например - голямо количество хора вярват абсолютно на това, което той им каже, а често път той генерира твърдения, които просто не са верни. Това, което напоследък е много разпространено - чат ботовете, те генерират текст, който е с една матрица от вероятности и когато им зададете въпрос, те изследват вероятностите на думите, които сте им задали и генерират думи, които са най-вероятни. Те не могат да разсъждават, те не разбират това, което сте им казали, въпреки че това, което те казват, изглежда много разумно, все едно човек го е писал. В тях няма никакъв разум, те „халюцинират“, измислят си разни работи. В никакъв случай не бива да им се вярва безрезервно, винаги трябва да се проверява. Те са полезни, но не бива това, което генерират, да се приема на доверие без никаква проверка. Това е едната опасност - човек може да получи от изкуствения интелект някакво твърдение, да му повярва, а то да се окаже неправилно или даже вредно. Друг такъв риск е, че напоследък се появяват много статии, очевидно написани от изкуствен интелект, в които няма никакъв смисъл. Всичко това замърсява интернет пространството. Изкуственият интелект непрекъснато се обучава от това, което намира по интернет, а там се появяват все повече глупости, написани от него и това означава, че бъдещият ще бъде базиран на глупости. Разводнява се информацията в интернет с неща, които не са верни и са безсмислени. Трети проблем е, че създаването и обучаването на тези модели изкуствен интелект използва изключително много енергия. Това води до повишаването на търсенето и цената ù.

- Може ли да бъде използван изкуственият интелект за манипулиране на избори?

- Определено може и това се прави. Използва се изкуствен интелект - така наречените ботове, които пишат в социалните мрежи, отговарят на това, което хората пишат и са така направени, че да насочват разговора в определена насока, която да е изгодна за определена страна. Ето ви още една опасност от изкуствения интелект.

- Трябва ли законово да бъде регулиран изкуственият интелект?

- Това е по-скоро политически въпрос. Аз лично не обичам, когато правителствата се месят в частните работи и то не за друго, а защото то прави глупости. При това не говоря само за нашето, а за всички изобщо. И е възможно, ако започнат да натискат да правят някакви регулации, това да спре развитието на нещо полезно. Така че аз лично съм против, но това е политическа позиция, а не техническа.

- Ще останем ли всички безработни след време и може ли изкуственият интелект да ни замени във всички професии?

- Определено не, но ще има влияние в икономика. Той няма да ви мие чиниите и да ви изхвърля боклука. Спорно е кои професии може да замени и това какво разбирате под изкуствен интелект. Ако е това, за което се говори в момента - тези чат-ботове, те могат да спомогнат в много професии. Например, ако много често получавате прес релийзи от различни компании, може да ги използвате да резюмират тия текстове до няколко изречения, така че вместо да си губите времето да ги четете, ще ги видите в няколко изречения. Обаче, ако използвате изкуствения интелект да ви напише статията във вестника, например, съветът ми е да не го правите, защото най-вероятно той ще напише глупости. Много компании го въвеждат на различно ниво не винаги разумно и в някои професии изкуственият интелект ще замести много хора, в други - ще се опитат да направят това, но резултатът ще бъде плачевен, а в трети изобщо няма място за него.

- А далече ли е времето, когато той ще стане наистина разумен?

- Да, далече е. Това, което в момента се нарича изкуствен интелект, в него няма нищо разумно, то не може да разсъждава, няма самосъзнание, въпреки, че много прилича на говорещ човек. Това е доста интересно научно откритие и допреди няколко години мислехме, че човешкият език не е вероятностен, в смисъл че изразява конкретни мисли, а не са само наредени думи. Оказа се обаче, че тези чат-ботове, които изглеждат и говорят съвсем разумно, работят точно по този модел и доказват, че нашият език всъщност е вероятностен, избират се думи според вероятността коя дума след коя следва. Аз винаги съм работил в областта на изкуствения интелект преди да започна да се занимавам с кибер сигурност, повече от 40 г. Тогава правехме така наречените „експертни системи“ - огромна база данни от правила от типа на „ако - то“. Ако някакво условие, то следва еди какво си. Това е страшно много работа, защото човек трябва да говори с експерти в съответната област, да се опита да извлече знанието им и да го формулира в такива правила от типа - „ако-то“. Но веднъж, след като успеете да го извлечете и да го запишете в такава експертна система, тя започва видимо да разсъждава. И накрая, за разлика от чат-ботовете, когато тя ви даде някакво заключение, може да и зададете въпросите защо и как е стигнала до това заключение. Ако наричате това разсъждение, то компютърна програма може да разсъждава. Но тя няма самосъзнание. Дали някой ден компютрите ще могат да имат самосъзнание, а не да правят само тривиални разсъждение, сигурно - да, но това няма да бъде скоро. Най-рано след няколко десетилетия.

Нашият гост
Д-р Веселин Бончев е завършил Техническия университет в София. Работил е в Института по техническа кибернетика и роботика към БАН. През 1989 г. става първият директор на новосъздадената Лаборатория по компютърна вирусология в академията. От 1991 до 1995 г. живее и работи в Германия, където пише докторската си дисертация “Мотодология на компютърната вирусология”. След това заминава за Исландия, където работи за софтуерната фирма “ФРИСК Софтуер Интернейшънъл”. През 2005 г. се връща в Националната лаборатория по вирусология към БАН, където е и досега.