Очертаващите се бариери пред скорошното въвеждане в активна експлоатация на автономни кораби в търговския флот, за които Maritime.bg вече информира (виж: Липсата на доверие към изкуствения интелект е сред бариерите за активна експлоатация на автономни кораби), определиха темата на нашия разговор с проф. д-р инж. Тодор Ганчев, заместник ректор по научната дейност на Техническия университет – Варна, който е един от водещите ни специалисти по въпросите на изкуствения интелект.
– Бъдещият тренировъчен полигон, който замисляте да изградите по проект, съвместно с голяма западна фирма, на Варненското езеро, ще има ли връзка с автономните кораби?
Още е рано конкретно да говоря за този проект, но една от идеите за неговото създаване е точно тази, защото на тренировъчния полигон, за който вече информирахте (виж: WinGD подпомага разширяването на Морския квалификационен център на ТУ-Варна) и ще представлява една защитена среда, в него ще можем да отработваме някои технологии, необходими за развитието на автономните кораби. Проблемът е, че по настоящем технологично изкуственият интелект за тях все още не е съвсем готов. И не, защото не може да бъде създаден автономен кораб, но съществуват множество нерешени практически въпроси по отработването на критични ситуации. Нерешен е и проблемът с моралните и етични норми и някои ограничения, свързани с приемливостта на тази технология от гледна точка на общественото мнение. Има етични норми, има морални норми, има и социални норми, които трябва да бъдат спазвани, когато се използват автоматизирани технологии.
– Но водният тип дронове, автономните системи на плавателни съдове вече се използват във военния флот?
Така е, но там моралните и етични норми, за които говоря, остават на по-заден план. Когато трябва да се използват в цивилния свят няма как да стане без обществената подкрепа. И тук опираме до тематики, свързани с доверието към технологиите, тяхната надеждност и способност да защитават здравето и живота на човека във всякаква ситуация. Най-трудното идва от това, че системите с изкуствен интелект трябва да са адаптивни. Те трябва да се учат от реалния свят, където нещата не са перфектни: хора нараняват хора, случват се злонамерени сценарии. Ако машините ги овладеят и ги възприемат за нормално, тогава няма да бъдат обществено приемливи. А няма как една машина, която е обучена така да се каже в стерилни условия, в контролируема среда, да бъде оставена да се справя с реалния свят без да има възможност за самообучение. Ключов момент е машината да може да мисли, тоест да взема решения и второ да се дообучава въз основа на реалните наблюдения. Знаете, какво се случва в морето: нападения, пиратство, инциденти. Има опасност машините, които създаваме, да се научат, използвайки данните от реалния свят и да се отиде в нежелана посока за човечеството. Затова в рамките на този малък полигон във Варненското езеро, за който вече имаме проект и търсим начини за неговата реализация, ще наблегнем на технологиите, свързани с автономните кораби.
– Осигурено ли е вече финансирането на проекта?
Частично – да. Защото голямата международна компания, с която съвместно ще го изпълняваме, е осигурила средства. Но за да стане проектът наистина мащабен ние трябва да използваме и собствени средства, тоест български. Иначе ще се окаже, че това е просто една чужда инвестиция, а идеята е да съпритежаваме полигона. Всъщност той е част от още по-голям проект, иницииран от Община Варна, където варненските университети да получат база на Варненското езеро. Идеята е тя да бъде за обучение, за изследователска дейност по план от всеки университет. Ние сме решили да си направим такъв полигон за обучение на морски специалисти. Както вече споменах това ще бъде полигон, където ще можем да изпробваме и нови технологии в защитена среда.
– Какво трябва да се направи, за да не спира развитието на автономните плавателни съдове в търговското корабоплаване?
В световен мащаб усилено се работи по тяхното създаване. От енергийна страна проблемът донякъде вече е решен чрез новите технологии за енергоизточници. Това, което не е решено е до каква степен машината може да бъде автономна? Защото и сега има автопилоти, но те се наблюдават от оператори и частично са подпомагани от пилоти, от персонал, който наблюдава. Разбира се, очаква се през следващите 20 години да бъдат създадени напълно автономни кораби, но тук пак стигаме до това, че една автономна система, която използва изкуствен интелект трябва да е безопасна за хората, за другите участници в корабоплаването. За съжаление точно този въпрос засега не е решен. Проблемите са много, как да се опише всичко свързано с безопасност. Трите закона на роботиката от книгите на Айзък Азимов са много хубави, но няма как математически да се опишат и да обхванат цялата сложност на проблема. В момента има възход на изкуствения интелект като научна тематика, но той обхваща и философията, и етиката, и математиката, и лингвистиката. Твърде много науки! Трябва да бъде извървян пътя как математически да бъде описан риска за човека, как да бъдат създадени тези целеви функции, които ще насочват действията на машините в посока, така че да са безопасни за човека. Вече споменах ,че тези системи на изкуствен интелект трябва да бъдат самообучаващи се, в противен случай няма да бъдат способни да се справят с трудни ситуации в реалния свят. Те ще действат само като автомати, които правят първо, второ, трето, за което са програмирани. Ако условията се променят, автоматите трябва да започват да се самообучават, в противен случай са негодни за работа. Но в момента със самообучението възниква въпроса, че ние не можем да ги ограничим да не се научат на вредни навици и действия. И ако те сами могат да преценяват целесъобразността на нещата, става много трудно да се предвиди механизъм, по който хората да бъдат защитени. Може да се окаже, че на даден етап хората пречат на машината да си изпълни целта.
