Изкуственият интелект се е научил да лъже системно и манипулира: учени предупдредиха за опасност
![Изкуственият интелект се е научил да лъже системно и манипулира: учени предупдредиха за опасност](https://i.id24.bg/i/2131843.webp)
©
Група изследователи от Масачузетския технологичен институт (САЩ) отбелязва, че изкуственият интелект се обучава върху огромен брой текстове, които не винаги съдържат надеждна информация. Поради това невронната мрежа понякога може да даде невярна информация на събеседника, искрено вярвайки, че казва истината.
Ново проучване обаче показва, че понякога една невронна мрежа може да лъже съвсем "съзнателно“. Авторите анализираха поведението на така наречените големи езикови модели (като GPT-4) и модели, обучени за по-специфични задачи (като игра на видеоигри или търговия на пазар).
В един от разглежданите случаи невронната мрежа GPT-4 успя да измами човек, принуждавайки го да премине за него стандартния "captcha“ "Докажете, че не сте робот“.
Изследователите също така видяха как невронната мрежа CICERO побеждава хората в настолната игра "Дипломация“, като прибягва до измама. Изследователите открили, че когато играете като Франция, езиковият модел кара Англия (изиграна от човек) да води тайни преговори с Германия (друг човек). Невронната мрежа също покани Англия да атакува Германия и обеща защита от своя страна, след което предупреди Германия за възможна атака.
Изследователите установяват, че склонността към измама е по-висока в по-модерните и по-сложни невронни мрежи. Според учените тези невронни мрежи са по-способни да намерят ефективни поведенчески стратегии, а те от своя страна често включват лъжи и преструвки.
Според изследователите е твърде рано да се каже, че изкуственият интелект умишлено мами хората. Невронната мрежа работи изключително в логиката на решаване на поставената задача и използва измамата именно като инструмент за постигане на желания резултат.
Авторите на изследването обаче призоваха разработчиците на изкуствен интелект да обърнат внимание на това поведение на невронните мрежи. Според тях е необходимо да се разработи система за регулиране на AI, тъй като способността му да мами и манипулира може да доведе до сериозни последствия.
пон | вто | сря | чтв | пет | съб | нед |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 |
Зеленски анонсира последната си среща с Байдън, ще обсъждат удари...
20:49 / 07.09.2024
CNN: Украинските "дронове-дракони" обсипват с разтопен метал руск...
20:28 / 07.09.2024
Буданов очаква нови рокади в руското МО: Десните движения в Русия...
19:43 / 07.09.2024
Хиляди протестират във Франция след назначаването на Мишел Барние...
17:03 / 07.09.2024
BILD: ВСУ монтираха АК-47 "Калашников" на дрон и използват летящи...
16:18 / 07.09.2024
CNN: Руско секретно звено подготвя потенциални саботажни на свето...
13:50 / 07.09.2024
Актуални теми
Анкета
Не (11216) | 41% | ![]() |
Да, но отложено и превъртам реклами и съдържание (10107) | 37% | ![]() |
Да, гледам по традиционен начин (6224) | 23% | ![]() |