Számítástechnika
sulaki - 2024-01-29
Az adatok azt mutatják, hogy az Egyesült Államok neves hírügynökségeinek több mint 88 százaléka blokkolja a mesterséges intelligencia cégek által használt botokat...
Mialatt a legtöbb népszerű és mérvadó híroldal blokkolja a mesterséges intelligencia (MI) botjait, a jobboldali média üdvözli őket.
A Wired hívja fel a figyelmet arra, hogy eltorzíthatja a mesterséges intelligenciák – például a ChatGPT – világképét, hogy mialatt a The New York Times és más vezető hírportálok blokkolják az MI botokat, addig az olyan (szélső)jobboldali portálok, mint a NewsMax és a Breitbart engedik a tartalmaik felderítését.
Az adatok azt mutatják, hogy az Egyesült Államok neves hírügynökségeinek több mint 88 százaléka blokkolja a mesterséges intelligencia cégek által használt botokat – azokat a mesterséges látogatókat, amelyek feladata a hírportálok tartalmait feldolgozni és rögzíteni. Azonban van egy kiugró érték: a jobboldali média messze elmarad liberális társaitól a botok blokkolása terén.
Az ontariói központú, MI-vel foglalkozó startup, az Originality
A legtöbb jobboldali oldal nem válaszolt a WIRED kérdéseire, de a magazin által megkeresett kutatóknak volt magyarázata. A legérdekesebb ezek közül: lehetséges, hogy ez egy stratégia a vélt politikai elfogultság leküzdésére. „A mesterséges intelligencia által adott válaszok tükrözik az adatokat, amelyeket az
David Rozado, egy új-zélandi adattudós, aki kifejlesztette a RightWingGPT nevű mesterséges intelligencia-modellt a ChatGPT-ben észlelt torzítások feltárására, azt állítja, hogy ez egy elfogadhatóan hangzó stratégia. „Egy médiacégnek, amely lehetővé teszi, hogy tartalmát beépítsék a mesterséges intelligencia tanulási adataiba, hatással kell lennie a modell paramétereire” – mondja.
Jeremy Baum, a Kaliforniai Egyetem (UCLA) mesterséges intelligencia-etikai kutatója azonban kétségesnek tartja, hogy a jobboldali hírportálok gyakorlata mérhető hatást gyakorolna a chatbotok teljesítményére. Ennek részben az az oka, hogy az MI cégek már a blokkolás előtt feldolgozták a baloldali hírportálok korábbi anyagait, részben pedig az, hogy ezek a cégek hajlamosak liberális beállítottságú alkalmazottakat felvenni.
„Az emberi visszacsatolásból történő, megerősítéses tanulásnak nevezett folyamatot jelenleg minden korszerű modellben alkalmazzák a válaszok finomhangolására” – mondja Baum. A legtöbb mesterséges intelligencia vállalat célja olyan rendszerek létrehozása, amelyek semlegesek. Ha az MI-t irányító emberek látják a jobboldali tartalom felfutását, de úgy ítélik meg, hogy ez nem biztonságos vagy helytelen, visszavonhatnak minden olyan forrást, amely a gépet egy bizonyos perspektívával kívánja táplálni. Az OpenAI szóvivője, Kayla Wood azt nyilatkozta ezzel kapcsolataban, hogy a „minden kultúrát, iparágat, ideológiát és nyelvet reprezentáló” MI-modellek megalkotására a vállalat az adatforrások széles gyűjteményét használja.
A Wired hívja fel a figyelmet arra, hogy eltorzíthatja a mesterséges intelligenciák – például a ChatGPT – világképét, hogy mialatt a The New York Times és más vezető hírportálok blokkolják az MI botokat, addig az olyan (szélső)jobboldali portálok, mint a NewsMax és a Breitbart engedik a tartalmaik felderítését.
Az adatok azt mutatják, hogy az Egyesült Államok neves hírügynökségeinek több mint 88 százaléka blokkolja a mesterséges intelligencia cégek által használt botokat – azokat a mesterséges látogatókat, amelyek feladata a hírportálok tartalmait feldolgozni és rögzíteni. Azonban van egy kiugró érték: a jobboldali média messze elmarad liberális társaitól a botok blokkolása terén.
Az ontariói központú, MI-vel foglalkozó startup, az Originality
AI
január közepén gyűjtött adatai azt mutatják, hogy szinte mindegyik vezető hírportál blokkolja az MI robotokat, beleértve az olyan újságokat, mint a The New York Times, a The Washington Post és a The Guardian. Az OpenAI GPT botja a legszélesebb körben blokkolt robotlátogató. Ám a megkérdezett jobboldali hírügynökségek – például a Fox News, a Daily Caller és a Breitbart – közül egyik sem blokkolja a legjelentősebb MI robotokat (közöttük a Google mesterséges intelligencia adatgyűjtő robotjával).
A legtöbb jobboldali oldal nem válaszolt a WIRED kérdéseire, de a magazin által megkeresett kutatóknak volt magyarázata. A legérdekesebb ezek közül: lehetséges, hogy ez egy stratégia a vélt politikai elfogultság leküzdésére. „A mesterséges intelligencia által adott válaszok tükrözik az adatokat, amelyeket az
algoritmus
feldolgozott” – mondja az Originality AI alapítója és vezérigazgatója, Jon Gillham. „Ha az egész baloldali média blokkol, akkor jobboldaliként mondhatjuk, hogy gyere ide, és térképezd fel az összes jobbra hajló tartalmunkat.”
Bot világképek
Az Egyesült Államok konzervatív vezetői (és mellettük például Elon Musk is) aggodalmukat fejezték ki amiatt, hogy a ChatGPT és más vezető MI-eszközök liberális vagy baloldali politikai elfogultságot mutatnak. Egy közelmúltbeli, mesterséges intelligenciával kapcsolatos meghallgatáson Marsha Blackburn szenátor egy mesterséges intelligencia által generált verset szavalt, amely dicsérte Biden elnököt, és azt állította, hogy a ChatGPT-vel lehetetlen hasonló ódákat generálni Trumphoz. A jobboldali vállalatok lehetőségként tekinthetnek arra, hogy a baloldali ideológiai ellenségeik blokkolják az MI botokat, és megpróbálhatják a helyzetet az „egyensúly helyreállítására” felhasználni.David Rozado, egy új-zélandi adattudós, aki kifejlesztette a RightWingGPT nevű mesterséges intelligencia-modellt a ChatGPT-ben észlelt torzítások feltárására, azt állítja, hogy ez egy elfogadhatóan hangzó stratégia. „Egy médiacégnek, amely lehetővé teszi, hogy tartalmát beépítsék a mesterséges intelligencia tanulási adataiba, hatással kell lennie a modell paramétereire” – mondja.
Jeremy Baum, a Kaliforniai Egyetem (UCLA) mesterséges intelligencia-etikai kutatója azonban kétségesnek tartja, hogy a jobboldali hírportálok gyakorlata mérhető hatást gyakorolna a chatbotok teljesítményére. Ennek részben az az oka, hogy az MI cégek már a blokkolás előtt feldolgozták a baloldali hírportálok korábbi anyagait, részben pedig az, hogy ezek a cégek hajlamosak liberális beállítottságú alkalmazottakat felvenni.
„Az emberi visszacsatolásból történő, megerősítéses tanulásnak nevezett folyamatot jelenleg minden korszerű modellben alkalmazzák a válaszok finomhangolására” – mondja Baum. A legtöbb mesterséges intelligencia vállalat célja olyan rendszerek létrehozása, amelyek semlegesek. Ha az MI-t irányító emberek látják a jobboldali tartalom felfutását, de úgy ítélik meg, hogy ez nem biztonságos vagy helytelen, visszavonhatnak minden olyan forrást, amely a gépet egy bizonyos perspektívával kívánja táplálni. Az OpenAI szóvivője, Kayla Wood azt nyilatkozta ezzel kapcsolataban, hogy a „minden kultúrát, iparágat, ideológiát és nyelvet reprezentáló” MI-modellek megalkotására a vállalat az adatforrások széles gyűjteményét használja.