Nem járt jól, aki fogadást kötött az algoritmusok által halucinált végeredményre alapozva.

Akit érdekel a téma, az mostanra már biztosan tudja: a magyar idő szerint ma hajnalban lejátszott amerikaifutball-döntőben az esélyesebbnek tartott Kansas City Chiefs végül hosszabbítás után 25-22-re legyőzte a San Francisco 49ers csapatát. Tegnap este azonban még ettől akár teljesen eltérő eredményeket lehetett kicsiholni több fejlett chatbotból is. Mindez pedig nem azért érdekes, mert az algoritmusnak nem jött be a tippje, hanem azért, mert a kitalált számokat végeredményként tálalta a mesterséges intelligencia.

Mint ahogy ebből a Reddit-szálból kiderül, több felhasználó is érdekes válaszokat kapott, amikor a Bardként indult, de ma már Gemini néven futó Google-chatbotot a Super Bowl fogadási oddsairól kérdezték.

Amennyiben elhisszük, hogy nem manipulált felvételről van szó, akkor a Gemini elég durván elveszett a naptárban és az eredményekben. A gép vasárnap adott válasza szerint ugyanis a meccset már szombaton lejátszották, ahol egyébként a 49ers győzedelmeskedett 34-28 arányban.

A Reddit fórumán több más felhasználó is megerősítette az anomáliát, ugyanakkor volt olyan, akinél a San Fraciscó-i gárda még magabiztosabban, 37-24-re verte a címvédőt. Hogy utóbbit, honnan szívta fel a chatbot, az nem tiszta, de a másik számpár valóban bejárta már a sajtót, mivel egy híresen pontos NHL-elemző már tavaly szeptemberben megnevezte a döntősöket (helyesen), illetve azt is, hogy a Chiefs megvédi a címét (helyesen), mégpedig 34-28-as eredménnyel (itt kicsit tévedett a szakértő). Az algoritmusnál valószínűleg ez a jóslat akadt be, csak éppen fordított állással, és végeredményként.

De nem mutatott jobb formát az OpenAI ChatGPT-fejlesztésére alapozott Microsoft Copilot sem, amelyet Redmond immár egyik termékéből se nagyon akar kihagyni. A Copilot szintén úgy gondolta, hogy már vége van a még el sem kezdődött meccsnek, de itt legalább a nyertes kilétét eltalálta az álmodozó algoritmus.

Érdemes ugyanakkor azt is megjegyezni, hogy a témát még vasárnap este feldolgozó TechCrunch a Gemini esetében már nem tudta reprodukálni a hamis választ, miközben a Microsoft Copilot az újságírói tesztre majdnem pontosan a később realizált eredményt adta ki, ám fordított felállásban. Mindezt egyébként a cikk annak tudja be, hogy a Gemininél előbb kapcsoltak, és javították az algoritmus outputját.

Javíthatatlan álmodozók

Az algoritmus tévedése ez esetben nem sok kárt okozott, de a döntő lejátszásának behalucinálása ismét csak rávilágított arra a régóta ismert problémára, hogy az MI válaszai gyakran tartalmaznak „alternatív univerzumból” származó információkat. És úgy tűnik, hogy minderről nagyon nehéz leszoktatni a gépet.

A jelenségnek tudható be, hogy a különböző nagy nyelvi modellek és intelligesnek kikiáltott megoldások egymást is utánozva követnek el néha durva, néha csak megmosolyogtató hibákat. A ChatGPT-elleni nyomás miatt tavaly sietve piacra dobott Bard esetében például már a terméket promótáló videóba is tárgyi tévedés került. De nem járt sokkal jobban a „forradalmi MI-kitűző” sem…

Forrás: BitPort

További friss híreket talál az IoTmagazin főoldalán! Csatlakozzon hozzánk a Facebookon is!