Jak działa GenAI i skąd biorą się generowane treści?

7. 1.7. Płynny język może stwarzać wrażenie rozumienia

Konwersacyjne modele GenAI generują wypowiedzi zgodne z formami komunikacji międzyludzkiej, mogą używać pierwszej osoby, przepraszać, deklarować pewność, wyrażać zgodę lub stosować język emocjonalny.

Interaktywność, posługiwanie się językiem naturalnym oraz wykonywanie zadań kojarzonych z rolami ludzkimi sprzyjają antropomorfizacji modeli konwersacyjnych. Użytkownicy mogą wówczas przypisywać technologii rozumienie, intencje, emocje lub trwałe cechy osobowe, których nie można wywnioskować z samego zachowania modelu językowego (Abercrombie i in. 2023, Deshpande i in. 2023).

Opisuj działanie technologii za pomocą obserwowalnych operacji.

Dlaczego ma to znaczenie?

Antropomorfizacja może zwiększać:

• zaufanie do generowanych treści,
• skłonność do ujawniania danych,
• gotowość przyjmowania sugestii,
• poczucie relacji z modelem językowym,
• przecenianie możliwości technologii,
• ograniczenie weryfikacji odpowiedzi.

Antropomorfizacja wynika nie tylko ze słów takich jak „myśli” czy „czuje”, lecz również z samej konstrukcji interfejsu konwersacyjnego (Abercrombie i in. 2023).