🤖 Neutralność AI w praktyce

Badanie uprzedzeń w AI jest olbrzymią gałęzią nauki, która jasno pokazuje, że nie ma mowy o neutralności. Wspomnę jedno z moich ulubionych badań z zeszłego roku o wdzięcznej nazwie Duże modele językowe odzwierciedlają ideologię ich twórców, które jasno pokazuje, że w zależności od tego, jaki weźmiemy model i na jaki temat rozmawiamy, a nawet w jakim języku, to dostaniemy inne odpowiedzi. Wnioski? W czasie prowadzenia badania model od Google'a miał największe wzmocnienie sentymentu wobec tagu opisywanego jako multikulturalizm. Grock za to miał największy antysentyment wobec Unii Europejskiej. To dość jaskrawo pokazuje równicę w uprzedzeniach pomiędzy modelami. Co więcej, badacze sprawdzili na przykład sentymenty w zależności od języka.