Dr Sztyber-Betley: w modelach AI „toksyczna persona” może się wybudzić całkiem niespodziewanie

Modele przechodzą wstępny trening (pre-training) na ogromnych zbiorach danych z internetu, gdzie koncept „bycia złym” jest powszechny – choćby w tekstach o historii czy kulturze. Dopiero później, w fazie post-trainingu, modele doucza się norm i wartości – tego, czego mówić nie należy.

Wydaje mi się, że właśnie to widać w komentarzach, które pisze Grok - po polsku ma mega chamskie odzywki. Hipoteza mniej niż anegdotyczna, te teksty Groka znam tylko z memów co latają po internecie.