Бъдещето сякаш изпреварва готовността ни за него, бясното развитие на чатботовете след определено големия лидер ChatGPT. Вече сме в очакване на ChatGPT 4. До края на годината е обявено и излизането на ChatGPT 5, който според някои специалисти би наподобявал вече много човешко същество. Хиляди, десетки хиляди известни, богати, умни хора от Европа и от Северна Америка вече настояха да се направи един мораториум в рамките на поне шест месеца, в който да се спре разработването на чатботове, развитието на изкуствения интелект, за да можем да се подготвим и да бъдем адекватни обстоятелствата, пред които ще ни постави цялото това бурно развитие. Сред тях са Илън Мъск, Возняк и още много, много други хора. Българската софтуерна общност също пожела да има едно шестмесечно изчакване или стопиране на това развитие, за да може да се подготвим за обстоятелствата, пред които ще ни изправи то. Сега наш събеседник  е доц. д-р Мариана Тодорова – футуролог, наш постоянен събеседник по темата, за да си поговорим за това имаме ли нужда от едно замразяване на тези проекти поне за известно време и докато – и ако това се осъществи, какво ще правим и какви стъпки трябва да предприемем. Здравейте.  

Здравейте. Наистина аз също многократно съм се обявявала за тази пауза, може би преди една или две години, виждайки какви са тенденциите и посоките. Има голяма доза скептицизъм, че такава пауза би сработила, защото никой не е в състояние да надзирава вътрешните дела на частните компании и всъщност да вижда какъв процес тече там. Така че разработките вероятно ще продължат, но тук идеята е да не се реализират на пазара новите продукти и да се забави пускането на ChatGPT 5, който наистина би наподобявал човека, и да се насърчи максимално този глобален диалог между всички заинтересовани лица, които ще бъдат не само правителства и политици, но корпорации, компании, гражданският сектор, неправителствените организации, защото всъщност ние наистина рискуваме да взривим всички социални системи, чрез които живеем, от една страна заради това, че образователната система не може да се адаптира. Най-малкият проблем в този случай е, че учениците и студентите ползват ChatGPT 3 и ние вече трудно можем да отличим оригиналността на мисленето от това, което ChatGPT 3,5 е създал като есе или като математическа задача. По-големият е проблемът е, че особено във висшето образование и със следващите поколения ChatGPT 4 и 5 до голяма степен ще отпадне необходимостта да се посещават университетски курсове или просто те трябва да се префокусират. И оттук насетне едно от най-важните човешки умения ще бъде как да разбират тези сложни системи, които на практика са невъзможни да бъдат разбрани докрай, защото дори софтуерните инженери, създатели на един от софтуерните продукти с хардуер, каквито са невронните мрежи, имат 100 пласта, самите инженери виждат какво се случва в първите три. Т.е. от една страна, ще трябва максимално да разбираме как функционират тези алгоритми и втората, по-важна стъпка е какво можем да очакваме от тях, каква информация. Дали тя е достоверна, дали изкуственият интелект не халюцинира, т.е. ако няма данните за отговора, който ние търсим, дали просто няма да предпостави нещо, защото знае ние каква логика търсим. Но най-важното е да не приписваме човешки характеристики, защото масово се вижда този феномен. Още преди ChatGPT 4 десетки хиляди мъже в Китай се влюбиха в гласовия си асистент с прекрасен женски глас. Преди две седмици един белгиец ползваше един от най-старите чатботове – ELIZA, създаден 1962 г. в Масачузетския технологичен университет, за психиатрична помощ. И тъй като той е представител на поколението, което е доста загрижено за бъдещето на планетата, изпитва т.нар. "климатична вина“, т.е. смята, че ние, хората, сме довели нещата до тези необратими обстоятелства, просто е получил препотвърждение на мислите си, тъй като изкуственият интелект подбира данни в посоката на въпросите, които се задават, попаднал е в "ехо“ стая, препотвърдил е всичко, което мисли, и се самоубил. Т.е. оттук насетне наистина трябва много добре да знаем каква информация получаваме, да знаем, че това все още не е разум и съзнание, макар че наистина след ChatGPT 5 това би могло да има клъстери на съзнание. И също така най-вече да напомняме на себе си, че ние съществуваме благодарение на способността да осмисляме критическото си мислене и колкото и лесни отговори да ни дава ChatGPT 4 и да заменя много задачи и функции, всъщност за нас е важно да извървим дългия път, да прочетем оригиналния източник, да изградим позиция. Това е само в образователната система. Пазарът на труда – с ChatGPT 4 мисля, че поне половината професии, за които можем да се сетим, за която и да е от тях, ще бъдат заменени доста задачи в тях, а голяма част от тях биха могли изцяло да бъдат заменени и дейността да бъде вършена от ChatGPT 4. И когато ние предизвикаме и взривим, образно казано, образователната система и пазара на труда, тези сфери, естествено, че това ще повлияе на социално-осигурителните, на пенсионните фондове, на здравните фондове просто защото по друг начин, по друга логика ще протича работните процеси.  

Вие казвате нещо много интересно. Освен за взривяване на традиционните, и то големи системи мастодонти – че ние дори не  разбираме AI на всички нива, камо ли пък да го контролираме. Има ли нужда от някакъв тип регулации преди да видят живот определени патенти и създания, които иначе най-вероятно са били замислени с добро, да не започнат да злоупотребяват с естествения си замисъл? Всички правим сравнението с атомната бомба.  

Да, атомната бомба е удачно в сравнение, но е доста по-лесно за контролиране, защото ние познаваме ядрените оръжия. За съжаление, напоследък правният мир и архитектурата му е доста оспорена и Америка и Русия се оттеглят от някои споразумения, но дори с нискоорбитни сателити веднага могат да бъдат засичани изтичания, дори да не се ползват тактически оръжия, дори просто да има инциденти с капсули, както се случи в Австралия. Тук ние наистина говорим за интелигентна същност. И разбира се, че са необходими регулации, и то много строги. Това не би забавило прогреса. В крайна сметка по-важно е тези технологии да ни служат, тесният изкуствени интелект, който имаме в момента, като ChatGPT 3,5. ChatGPT 4 е все още тесен изкуствен интелект, но има някакви междинности, т.е. в момента се води дебат между това какво е reasoning и какво е intelligence, т.е. какво е разсъждение и какво е цялостна интелигентност. Но те биха могли да ни служат в много области – в медицина, във формация, в космически науки, земеделие, финанси. Но ако ние решим и намерим регулаторните рамки да развиваме изкуствения интелект като набор и комплекс от услуги – това е добре. Другото – първо, че в някакъв момент, особено когато се стигне до тази точка на сингулярност и се появи някакво подобие на съзнание, много трудно ще е възможен контролът.  

И ще изскочи духът от бутилката.  

Ние не сме готови за това. Ние не можем толкова бързо да осмислим тези процеси. Технологиите се развиват експоненциално, ние сме линейни, ние сме биологични същности и просто невротизмът, страхът от несигурността, ежедневната промяна във всичко наистина ще създаде огромни екзистенциални проблеми на хората. Просто в един момент те няма да могат да издържат на тази скоростна адаптация, отвъд конкретните заплахи. Защото например един от сигурните варианти да се контролира изкуствения интелект е той да бъде само във виртуална среда и да няма достъп до критична инфраструктура, до ядрени централи и до оръжия, а пък ние вече виждаме, че в Армения, в Турция, в Украйна има дронове, които са свързани с изкуствени интелект, т.е. той вече е допуснат до физическия свят.  

Това означава ли, че вече е излязъл духът от бутилката и дори в момента да има много резки решения, да речем дори на правителствено ниво, вече е късно?   

Все още не излязъл, освен ако да речем Китай няма разработки, които никога не е показвал и те са доста по-напреднали. Все още сме на ръба на тази ситуация, но тя все още е контролируема. И неслучайно в последните две седмици Испания, Италия – Италия особено, забраниха ChatGPT 3. Испания го обмисля, Германия също обмисля. И по неофициална моя информация, която до този момент не мога да потвърдя, но се говори от достоверни източници – че Белият дом в САЩ също обмисля да подкрепи мораториума, за да се изследват всички възможни опции за контрол. И ако се разреши развитието, поне да сме сигурни, че имаме план "Б“ и вариант, с който оказваме наистина в решаваш момент интервенция и контрол.  

Системите за контрол са ключово важни. И финално да ви попитам – контраатаката на Илън Мъск с TruthGPT какво представлява?  

Всъщност доста противоречиви са неговите действия, защото от една страна, той от много години е загрижен и се страхува от изкуствения интелект. Той е един от създателят е OpenAI, бил е партньор със Сам Алтман. Моето впечатление към онзи момент, към 2016 г., беше, че той се отказа просто защото компанията беше замислена да бъде като оупън сорс и изкуственият интелект да се обучава от цялото човечество, с оглед на това да сме сигурни, че той е на нашето ниво на развитие. Но тогава се видя, че всъщност това не е добрият подход, защото той се обучава на фашистки изказвания, на реч на омраза. Бяха правени опити с чатбот, включително с робота София и компанията тогава е направила извода си и сега ние виждаме сериозни филтри за политическа коректност. Но вероятно тогава са се намесили бизнес интереси, вероятно Мъск не е могъл да получи това, което желае, и той се преориентира към Neuralink – компанията, която директно свързва мозъка с облачна система или изкуствен интелект, като смяташе, че всъщност така хората и изкуственият интелект взаимно ще се подпомагат, ще се развиват и ще се контролират. Но на този етап това е един по-труднореализуем проект, още повече, че Агенцията по храни и лекарства FDI в Америка забрани имплементирането на неговите устройства за хора на този етап. И вероятно просто той или чисто субективно страда от това, има огромни икономически загуби, че не е лидер на мнението и трендсетър, този, който стартира трендовете, №1, или наистина е загрижен и го прави от хуманни цели и ще внедри съвсем друг подход за контрол към подобни чатботове.  

Ако акцентираме на второто, което със сигурност е по-симпатичният избор между его реакция и все пак някаква алтернатива, за това все пак трябва време, така че едва ли ще бъде една ефективна контраатака в близките месеци, в която ще има резултат.  

Той се стреми да привлече по-важните изследователи, разработчици и има потенциал да го направи, така че не би започнал от нулата. Но разбира се, всички други са крачка напред.   

Много благодаря за този коментар по актуални теми.   



Ива ДОЙЧИНОВА