Ο CEO της OpenAI, Sam Altman, εξέδωσε μια αυστηρή προειδοποίηση προς τον χρηματοπιστωτικό κλάδο, δηλώνοντας ότι τα εργαλεία τεχνητής νοημοσύνης που μπορούν να μιμηθούν την ανθρώπινη φωνή δημιουργούν μια «σημαντική επικείμενη κρίση απάτης». Μιλώντας σε συνέδριο της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Federal Reserve), ο Altman τόνισε ότι τα συστήματα ασφαλείας που βασίζονται στη φωνή είναι πλέον παρωχημένα και κάλεσε για άμεση δράση.
Ο Altman εξέφρασε ιδιαίτερη ανησυχία για τα χρηματοπιστωτικά ιδρύματα που εξακολουθούν να χρησιμοποιούν τον έλεγχο ταυτότητας μέσω φωνητικού αποτυπώματος. «Ένα πράγμα που με τρομάζει είναι ότι προφανώς υπάρχουν ακόμα ορισμένα χρηματοπιστωτικά ιδρύματα που δέχονται το φωνητικό αποτύπωμα ως έλεγχο ταυτότητας», δήλωσε ο Altman, χαρακτηρίζοντας την πρακτική αυτή «τρελή». Προειδοποίησε ότι η τεχνητή νοημοσύνη έχει «νικήσει πλήρως» πολλές από τις τρέχουσες μεθόδους επαλήθευσης ταυτότητας. Η τεχνολογία κλωνοποίησης φωνής μπορεί πλέον να δημιουργήσει πειστικές απομιμήσεις από ηχητικό υλικό μόλις τριών δευτερολέπτων, το οποίο μπορεί εύκολα να ληφθεί από αναρτήσεις στα μέσα κοινωνικής δικτύωσης.
Η απειλή αυτή έχει ήδη οδηγήσει σε σημαντικές οικονομικές απώλειες. Σύμφωνα με αναφορές, οι τράπεζες και άλλοι οργανισμοί χάνουν κατά μέσο όρο 600.000 δολάρια ανά περιστατικό απάτης με deepfake φωνής, με το 23% να χάνει πάνω από 1 εκατομμύριο δολάρια. Ως απάντηση, το 91% των τραπεζών στις ΗΠΑ επανεξετάζει τη χρήση της επαλήθευσης μέσω φωνής για πελάτες υψηλής αξίας. Ο Altman προέτρεψε τα χρηματοπιστωτικά ιδρύματα να υιοθετήσουν πιο προηγμένες μεθόδους επαλήθευσης πολλαπλών παραγόντων για την ασφαλή επιβεβαίωση της ταυτότητας.
Η ίδια η OpenAI, αναγνωρίζοντας τους κινδύνους που ενέχει η δική της τεχνολογία Voice Engine, έχει προτείνει την κατάργηση του ελέγχου ταυτότητας μέσω φωνής για την πρόσβαση σε τραπεζικούς λογαριασμούς και την εκπαίδευση του κοινού σχετικά με το παραπλανητικό περιεχόμενο που μπορεί να δημιουργήσει η AI.