O ile się orientuję, to problem z danymi jest właśnie w drugą stronę, czyli w tym czym karmi się modele dominują biali ludzie, bo oni głównie są na zdjęciach, w danych historycznych i ogólnie w zachodnim internecie. W efekcie wychodzi model, którego odpowiedzi nie przystają do współczesnych "standardów" multikulti.
Ten chatbot Google na pewno nie dostał w danych wejściowych zdjęć czarnych rycerzy w spódnicy. Został natomiast tak sparametryzowany, żeby na pytania o człowieka pokazywał każdego, tylko nie białego, a dodatkowo zwiększył reprezentację kobiet. Przegięli w drugą stronę i wyszło komicznie

Ale fakt, pokazuje to jak łatwo można manipulować takimi usługami.