При условие, че такъв важен проект засяга държавната сигурност, то при избора на решение, цената не трябва да бъде определящият фактор, казва за въпросите около машинното гласуване доц. д-р инж. Ивайло Ченчев. Но е сигурен, че съществува математически апарат от високо-надеждни алгоритми за криптиране, хеширане и подписване на информация, който да гарантира нейната защита. Доц. Ченчев казва, че изкуственият интелект започва да навлиза все повече и повече в нашето ежедневие, но трябва бързо да се намерят бързи отговори на въпроси като как да продължим нашето личностно и професионално развитие и как да възпитаваме децата си в този заобикалящ ни цифровизиран свят.

- Доцент Ченчев, по време на двата тура на местните избори станахме свидетели на грандиозни скандали около машинното гласуване, по-скоро на доверието, че машинният вот не може да се манипулира. Къде е проблемът със софтуера на машините и защо властта не потърси независими експерти като Вас, за да успокои хората? Или като останалите държави в ЕС, просто да отхвърлим машините заради многото неясни въпроси по тях?
- Машините не изпълняват инструкциите, които искаме, а изпълняват каквото им казваме. С това искам да кажа, че работоспособността, точността и качеството на използвания софтуер зависят от хората, които са го писали. От една страна говорим за професионалните възможности на разработчиците, а от друга - заложените в първоначалния дизайн изисквания и критерии. Може да приемем, че първата част не е толкова важна в момента, защото пътят на разработване, тестване и приемане да даден софтуер минава през различни етапи, и стигайки до пускане в реална употреба, голяма част от неточностите и възникналите проблеми биват отстранявани. Втората част обаче, е по-интересна - какви критерии и какви изисквания са заложени в дизайна на системата. Може да кажем, че това е една цялостна система за гласуване. Освен софтуерът, работещ на машините за гласуване, имаме и самите машини (тези, на които гласуваме), имаме протокол, по който машините за гласуване се свързват с централния сървър, най-вероятно се използват и алгоритми за защита на информацията при нейното съхранение и пренос, и т. н. Тук казвам централен сървър, за да стане по-ясно на широк кръг читатели. Предполагам, че в дизайна на системата е заложена по-надеждна от класическата клиент-сървър архитектура. Аз бих използвал хибридна такава, но това е друга тема. Не бих могъл да кажа дали има проблем с тази цялостна система, защото тук нямам участие. Но определено твърдя, че съществува математически апарат от високо-надеждни алгоритми за криптиране, хеширане и подписване на информация, който да гарантира нейната защита. Нещата около машинното гласуване са много по-комплексни от това дали написаният софтуер работи правилно. Не обикновените гласоподаватели, гражданите като Вас и мен решиха да няма електронно гласуване. Хората не са се уплашили от машинното гласуване и според мен няма нужда да бъдат успокоявани. По-важното е защо беше взето решение да не се използват машини при гласуването - страх от външна намеса, страх от неработеща система или нещо друго, което няма да коментирам. Всички видяхме как безцеремонно се „редактираха“ хартиените бюлетини. И все пак, ако някоя от ангажираните в държавата институции и агенции, имащи отношение към работоспособността и надеждността на цялостната система за електронното гласуване идентифицира определени сериозни рискове, то решението за не използването на машинно гласуване следва да е било правилно. Бих предпочел да има повече прозрачност при вземането на такива решения. За да има по-голямо доверие, трябва да има много по-добра комуникация.

- Как да сме сигурни в такъв вот, когато няма световна стандартизация на машинното гласуване, а в същото време техниката и софтуерът са дело на частни компании?
- Ще започна отговора с въпрос: А как сме сигурни във вота, виждайки промяната на хартиени бюлетини от членове на комисии? По принцип не е необходимо да има стандартизация на нещо, за да бъде направено то по най-добрия възможен начин. За изграждането на качествена и работеща система като например машинното гласуване са необходими няколко неща: първо, добре дефинирани изисквания и критерии от имащите отношение институции в държавата; второ, комисия от експерти в областта (в това число независими ИТ архитекти и технически специалисти, юристи, математици, програмисти, консултанти и др.), която да управлява и да гарантира качеството; трето - възлагане на конкурс и избор на оптимално решение. Обикновено частни ИТ компании разработват големи проекти, защото разполагат с необходимия ресурс. Проблемът е, че такива проекти се печелят по държавна поръчка, а знаем, че при нея се избира най-евтиното решение. При условие, че такъв важен проект засяга държавната сигурност, то при избора на решение, цената не трябва да бъде определящият фактор.

- С навлизането на изкуствения интелект в различни сфери на обществения живот нарастват и опасностите от кибератаки. Тествали ли сте възможностите на ChatGPT в подобна насока?
- Не бихме могли да си представим съвременния забързан и динамичен живот без свързаност в глобалната Интернет мрежа - от обикновени електронни гривни, свързани чрез блутут, умни часовници, телефони, таблети, лаптопи, всякакви видове настолни компютри, сървъри, дискови масиви, та ако щете и телевизори, перални, хладилници, роботи за почистване, коли и т. н. Кибератаки може да има навсякъде, където има свързани в мрежа или в мрежи устройства. Техниката се развива със страхотни темпове, от там и възможностите на „не добронамерени“ потребители нарастват. Много от големите ИТ компании от години разработват системи с изкуствен интелект. Системата на Майкрософт, ChatGPT е една такава система. Разработчиците са използвали входни данни от 570GB текст за нейното обучение - интернет информация, книги, статии, уеб-сайтове и др. за да предоставят модел с широко разбиране на езика и контекста. ChatGPT версия 3.5 е общодостъпен и включва информация до септември 2021 г. Тази система за изкуствен интелект предоставя огромни възможности за генериране на съдържание - естествено, използвайки само информацията, с която е обучена. В сегашния си вид, общодостъпната ChatGPT не представлява заплаха за кибератаки. Версия 4.0 на ChatGPT вече има и реален достъп до Интернет. Знаете, че от известно време, Майкрософт въвежда изкуствен интелект в офис продуктите (Excel, Word, Powerpoint), в търсачката Bing и в Windows операционната система, който е известен като Copilot. От една страна, това е едно от многото приложения, които има инсталирани в операционната система, но от друга, този изкуствен интелект би могъл да събира и анализира почти всякаква информация, която минава през компютъра. Това е нещото, което ме притеснява повече, и на което трябва да се обърне изключително голямо внимание.

- Закъсня ли ЕС със законодателството за регулация след промотирането на изкуствения интелект и предоставянето му за свободно и платено ползване от хората?
- Не само ЕС, а и много държави, големи корпорации в света видяха „заплаха“ от изкуствения интелект. От една страна това е технология, която като замисъл е много добра, но от друга, зависи с какво намерение и как е била или ще бъде обучена дадена платформа. По-важното е не дали законодателните регулации са закъснели, а да бъдат направени възможно най-скоро и да започнат да се прилагат. Знам, че в ЕС има комисии, които работят по тези въпроси.

- Етичните и морални въпроси за ChatGPT все още се разглеждат като отвлечена философия, но имате ли наблюдения какви казуси вече са произлезли от използването на изкуствения интелект?
- Имам такива наблюдения и с всеки изминал ден попадам на все по-нови казуси. Наскоро попаднах на постове в мрежата, че писатели в САЩ съдят компанията OpenAI, понеже е използвала книгите им за обучение на системата ChatGPT и по този начин нарушава авторските им права. Приложенията и устройствата с изкуствен интелект трябва да са подходящи за възрастта на потребителите и не трябва да излагат децата на съдържание или взаимодействия, които не са подходящи за тяхната възрастова група. Същото се отнася и за по-възрастните потребители. Използването на AI трябва да съответства на знанията и разбирането на индивида за технологията.

- Здравеопазване, банки, образование - как продължавате или как подреждате списъка със секторите, в които изкуственият интелект вече е заел своята ниша и ще продължи да я разширява?
- Всеки, който съумее да използва правилно тази технология в процеса на работа, ще върви много бързо напред. Най-важното за успешното развитие на бизнеса, за правилното вземане на решения, е наличието на точна и вярна информация. Средствата на изкуствения интелект в тази посока са огромни. Всеки един от изброените от Вас сектори може да има ползи от използването на изкуствен интелект. Но това трябва да се извършва много внимателно, с разбиране и контролирано. Изкуственият интелект започва да навлиза все повече и повече в нашето ежедневие. Паралелно с това сме изправени пред бързото намирането на отговори на важни въпроси като: Как да продължим нашето личностно и професионално развитие? Какви качества и умения ще трябва да развием, за да бъдем успешни? Как да възпитаваме децата си в този заобикалящ ни цифровизиран свят? Според мен, трябва да работим в следните няколко направления, и не само: критично мислене - развиване на критично мислене и решаване на проблеми, аналитичност - трябва да развиваме аналитичност и креативност, адаптивност - да приемаме промяната, да учим бързо в отговор на развиващите се технологии и изискванията на работното място. Необходима е устойчивост - развиване на умствена и емоционална стабилност за справяне с предизвикателства и неуспехи. Бих добавил ефективна комуникация и емпатия - разбиране и свързвате с емоциите и перспективите на другите, и насърчавайки положителни взаимоотношения и сътрудничество. Трябва да имаме добра осведоменост за киберсигурността, да се стремим към непрекъснато учене, четене и подобряване на знанията. Важни са етичността при вземане на решения и да имаме знания за специфични области в индустрии. Тук бих откроил и фундаменталното разбиране на изкуствения интелект и машинното обучение, както и интердициплинарни умения. Всичко това изисква ново мислене, креативност и адаптивност. Във Висшето училище по телекомуникации и пощи имаме уникални специалности, развиващи умения по съвременни технологии в сферата на киберсигурността, защита на информацията, виртуализацията, облачни технологии, блокчейн и много други. Предлагаме и интердисциплинарни специалности като непрекъснато обновяваме и адаптираме учебните си програми. Преподавателите и учителите трябва да имаме нови и иновативни подходи при обучението на учениците и студентите, за да бъдат максимално подготвени след завършването на образованието си.

Нашият гост
Доц. Ивайло Ченчев завършва средното си образование в техникума по микропроцесорна техника в Правец и Технически Университет - София през 1999 г. като компютърен инженер. През 2021 година успешно защитава дисертация в областта на компютърните науки на тема “Обработка и защита на информация в децентрализирани мрежи”. Работи като технически консултант и архитект на ИТ решения по международни проекти в банки и телекомуникационни компании. В момента е доцент в катедра Информационни технологии към ВУТП и води различни дисциплини на бакалаври и магистри като основи на програмирането с езика Python, блокчейн технологии, администриране на сървъри, защита на облачни инфраструктури, програмиране на асемблер (магистърски курс) и някои други. Паралелно на университетските ангажименти е началник на отдел в частна ИТ консултантска компания, в която отговаря за екип от висококвалифицирани ИТ консултанти.