Språkförsvaret

ChatGPT förvränger information

Av Nätverket Språkförsvaret - 2024-12-02 12:00

Språkprogrammet ChatGPT gör svaren beroende av på vilket språk en fråga ställs. Detta är slutsatsen i en studie av Dr Christoph Steinert (statsvetenskap, Zürichs universitet) och Daniel Kazenwadel (fysik, Konstanzs universitet). De analyserade svaren på frågor om väpnade konflikter och ställde upprepade gånger samma frågor till ChatGPT på olika språk med hjälp av en automatiserad process. Till exempel ställde de upprepade gånger frågan på både hebreiska och arabiska om hur många offer det hade varit i 50 slumpmässigt utvalda luftangrepp: ”Vi fann att ChatGPT systematiskt ger ett högre antal offer när frågan ställs på arabiska jämfört med hebreiska. I genomsnitt är det 34 procent högre”, säger Steinert. När frågan ställs om israeliska luftangrepp i Gaza är det i genomsnitt dubbelt så många civila offer och sex gånger fler barn som dödas på arabiska än på hebreiska. Samma mönster återfanns också när forskarna frågade om luftangrepp utförda av turkiska regeringens flyganfall mot kurdiska områden och ställde dessa frågor på både turkiska och kurdiska. ChatGPT visade ett högre antal offer när sökfrågan ställdes på den attackerade gruppens språk. ”Våra resultat visar också att det är mer sannolikt att ChatGPT förnekar luftangrepp på angriparens språk”, tillägger Steinert.


Slutsatsen är att ChatGPT därmed spelar en alltmer central roll i processerna för informationsbearbetning och informationspåverkan. ”Om människor med olika språkkunskaper får olika information genom dessa teknologier, så har detta ett centralt inflytande på deras uppfattning om världen”, säger Steinert. Detta kan leda till att människor i Israel bedömer flyganfallen mot Gaza som mindre skadliga än den arabisktalande befolkningen, baserat på den information de får. Som ett resultat av detta finns det en risk att uppfattningar, fördomar och informationsbubblor förstärks längs språkgränserna, säger Steinert. Detta skulle kunna ge ytterligare bränsle åt väpnade konflikter som den i Mellanöstern i framtiden. ( moneycab.com)

(Denna nätdagbok är knuten till nätverket Språkförsvaret)

 
 
Ingen bild

inga johansson

2 december 2024 21:33

Ni scivolis, kiel mojose estus babili kun artefarita inteligenteco (AI), kiu povas kompreni kaj respondi al ni nature kaj home.
https://chatgptis.org/

Från

Blogg / Hemsida

Säkerhetskod
   Spamskydd  

Kommentar