7. 1.7. Płynny język może stwarzać wrażenie rozumienia

Konwersacyjne modele GenAI generują wypowiedzi zgodne z formami komunikacji międzyludzkiej, mogą używać pierwszej osoby, przepraszać, deklarować pewność, wyrażać zgodę lub stosować język emocjonalny.

Interaktywność, posługiwanie się językiem naturalnym oraz wykonywanie zadań kojarzonych z rolami ludzkimi sprzyjają antropomorfizacji modeli konwersacyjnych. Użytkownicy mogą wówczas przypisywać technologii rozumienie, intencje, emocje lub trwałe cechy osobowe, których nie można wywnioskować z samego zachowania modelu językowego (Abercrombie i in. 2023, Deshpande i in. 2023).

Opisuj działanie technologii za pomocą obserwowalnych operacji.

Dlaczego ma to znaczenie?

Antropomorfizacja może zwiększać:

  • zaufanie do generowanych treści,
  • skłonność do ujawniania danych,
  • gotowość przyjmowania sugestii,
  • poczucie relacji z modelem językowym,
  • przecenianie możliwości technologii,
  • ograniczenie weryfikacji odpowiedzi.

Antropomorfizacja wynika nie tylko ze słów takich jak „myśli” czy „czuje”, lecz również z samej konstrukcji interfejsu konwersacyjnego (Abercrombie i in. 2023).