Πιο συγκεκριμένα, χρήστες στα social media ανέφεραν περιστατικά όπου ιστορικά πρόσωπα απεικονίζονταν με λάθος φυλετικά χαρακτηριστικά. Σε μια χαρακτηριστική περίπτωση, οι ιδρυτές των ΗΠΑ εμφανίστηκαν ως Αφροαμερικανοί.
Η Google, σε ανάρτησή της στο Twitter, παραδέχτηκε την τεχνική αστοχία και τόνισε την ανάγκη για βελτιώσεις πριν από την επαναφορά του εργαλείου. Η εταιρεία υπογράμμισε τη δέσμευσή της για την υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης, θέτοντας στο επίκεντρο την ακρίβεια και την αντικειμενικότητα.
Η αστοχία του Gemini έρχεται να επισφραγίσει τις ανησυχίες που εκφράζονται ολοένα και συχνότερα σχετικά με τις ηθικές προεκτάσεις της τεχνητής νοημοσύνης. Η προκατάληψη και η διάδοση παραπληροφόρησης αποτελούν σοβαρούς κινδύνους που οφείλουν να αντιμετωπιστούν αποτελεσματικά.
Ενώ η Google εργάζεται για την αναβάθμιση του Gemini, η διακοπή λειτουργίας του εργαλείου εγείρει ερωτήματα για το μέλλον της τεχνητής νοημοσύνης. Η ανάπτυξη αξιόπιστων και ηθικών συστημάτων τεχνητής νοημοσύνης αποτελεί καίριο ζήτημα, με την Google να οφείλει να ηγηθεί της προσπάθειας για την υιοθέτηση υπεύθυνων πρακτικών.