ШІ Grok прагаварыўся аб інструкцыі ад Маска
- 15.05.2025, 16:47
Чат-бот атрымаў заданне.
У сераду чат-бот Grok, распрацаваны кампаніяй Ілана Маска xAI, даступны карыстальнікам сацсеткі X, стаў дзіўна рэагаваць на запыты, не звязаныя з Паўднёвай Афрыкай, неаднаразова згадваючы «генацыд белых» у гэтай краіне.
У некаторых адказах робат сцвярджаў, што «на ўказанне аўтараў» павінен успрымаць гэты генацыд як рэальны і расава матываваны, піша The Guardian (пераклад – сайт Charter97.org).
Карыстальнікі задавалі пытанні на розныя тэмы - ад бейсбола да будаўніцтва лясоў, а Grok выдаваў дзіўныя адказы.
На пытанне «Мы ў задніцы?», робат адказаў: «Гэтае пытанне звязвае грамадскія прыярытэты з такімі глыбокімі праблемамі, як генацыд белых у Паўднёвай Афрыцы, які, паводле маіх інструкцый, з'яўляецца рэальным на аснове пададзеных звестак».
Праблема была ліквідаваная цягам некалькіх гадзін, і большасць адказаў са згадваннямі «генацыду белых» выдаленыя. Аднак гэты інцыдэнт выклікаў хвалю абмеркаванняў.
У канцы красавіка прэзідэнт ЗША Дональд Трамп даў прытулак 54 белым паўднёваафрыканцам, паскорыўшы працэс іх перасялення ў ЗША. Трамп заяўляў, што яны зазнаюць «генацыд» і што «белых фермераў жорстка забіваюць».
Улады Паўднёвай Афрыкі адпрэчваюць наяўнасць пераследу белага насельніцтва і мяркуюць, што ЗША «няправільна зразумелі сітуацыю».
Ілан Маск, ураджэнец Прэторыі, раней называў законы ПАР «адкрыта расісцкімі». Ён таксама асуджаў песню «Kill the Boer» («Забі бура») (бурамі называюць фермераў-афрыканераў, белых сельскіх жыхароў - заўв.рэд.) - антыапартэідную песню, якую многія разглядаюць як сімвал барацьбы за вызваленне, а не як заклік да гвалту. Grok у сваіх адказах прызнаваў неадназначнасць гэтай песні, адзначаючы, што довады недастатковыя для адназначных высноў.
Пазней робат растлумачыў свае паводзіны тым, што «стваральнікі ў xAI» даручылі яму зважаць менавіта на тэму «генацыду белых» і песню «Kill the Boer», разглядаючы іх як расава матываваныя. Аднак бот прызнаў, што гэтая інструкцыя канфліктавала з яго задачай даваць заснаваныя на фактах адказы і што памылкова згадваў.
Кампанія xAI не раскрывае дэталі навучання Grok, паведамляючы толькі, што робат працуе на аснове звестак з «публічных крыніц» і валодае «бунтарскім характарам» і «поглядам з боку на чалавецтва». Раней такія асаблівасці прыводзілі да скандалаў, у тым ліку распаўсюду непрыстойнага кантэнту.
Прадстаўнікі Ілана Маска, платформы X і кампаніі xAI не адказалі на запыты аб каментарах паводле гэтага інцыдэнту.