Μίμηση φωνής με τεχνητή νοημοσύνη, ο νέος τρόπος ηλεκτρονικής απάτης
Μετάφραση
Η τεχνητή νοημοσύνη είναι εδώ για να βοηθήσει, είτε συντάσσoντας ένα email, δημιουργώντας κάποια τέχνη, είτε εκτελώντας μια απάτη σε ευάλωτους ανθρώπους κάνοντάς τους να νομίζουν ότι είναι κάποιος φίλος ή συγγενής σε δυσκολία.
Τα τελευταία χρόνια, έχει παρατηρηθεί μια τεράστια αύξηση όχι μόνο στην ποιότητα των παραγόμενων μέσων, από κείμενο σε ήχο και εικόνες και βίντεο, αλλά και στο πόσο φθηνά και εύκολα μπορούν να δημιουργηθούν αυτά τα μέσα. Το ίδιο εργαλείο που βοηθά έναν καλλιτέχνη να δημιουργήσει φανταστικά τέρατα ή διαστημόπλοια, ή επιτρέπει σε έναν ομιλητή να βελτιώσει τα αγγλικά του, μπορεί επίσης να χρησιμοποιηθεί για κακόβουλους σκοπούς.
Κλωνοποίηση φωνής οικογένειας και φίλων
Οι συνθετικές φωνές υπάρχουν εδώ και δεκαετίες, αλλά μόλις τα τελευταία ένα με δύο χρόνια οι τεχνολογικές εξελίξεις επέτρεψαν να δημιουργηθεί μια νέα φωνή από λίγα μόνο δευτερόλεπτα ήχου. Αυτό σημαίνει ότι οποιοσδήποτε έχει μιλήσει δημόσια – για παράδειγμα, σε ένα δελτίο ειδήσεων, βίντεο στο YouTube ή στα κοινωνικά δίκτυα – είναι ευάλωτος σε κλωνοποίηση της φωνής του.
Οι απατεώνες μπορούν και έχουν χρησιμοποιήσει αυτήν την τεχνολογία για να δημιουργήσουν πειστικές ψεύτικες εκδοχές αγαπημένων προσώπων ή φίλων. Μπορούν να πουν οτιδήποτε, φυσικά, αλλά σε μια απάτη είναι πιο πιθανό να δημιουργήσουν ένα ηχητικό κλιπ που ζητάει βοήθεια.
Για παράδειγμα, ένας γονέας μπορεί να λάβει ένα φωνητικό μήνυμα από έναν άγνωστο αριθμό που ακούγεται σαν τον γιο του, λέγοντας ότι τα πράγματά του κλάπηκαν κατά τη διάρκεια ενός ταξιδιού, κάποιος του επέτρεψε να χρησιμοποιήσει το τηλέφωνό του, και αν μπορεί η μαμά ή ο μπαμπάς να στείλουν χρήματα σε μια συγκεκριμένη διεύθυνση ή έναν συγκεκριμένο παραλήπτη. Κάποιος μπορεί εύκολα να φανταστεί παραλλαγές με προβλήματα αυτοκινήτου («δεν θα απελευθερώσουν το αυτοκίνητό μου μέχρι να πληρώσει κάποιος»), ιατρικά ζητήματα («αυτή η θεραπεία δεν καλύπτεται από την ασφάλιση») και ούτω καθεξής.
Αυτού του είδους η απάτη έχει ήδη γίνει με τη φωνή του Προέδρου Biden. Πιάστηκαν οι δράστες, αλλά οι μελλοντικοί απατεώνες θα είναι πιο προσεκτικοί.
Πώς να αντιμετωπίσετε την κλωνοποίηση φωνής
Πρώτα απ’ όλα, μην προσπαθήσετε να εντοπίσετε μια ψεύτικη φωνή. Γίνονται καλύτερες κάθε μέρα και υπάρχουν πολλοί τρόποι να κρύψουν οποιαδήποτε ποιοτικά ζητήματα. Ακόμα και οι ειδικοί ξεγελιούνται.
Οτιδήποτε προέρχεται από άγνωστο αριθμό, διεύθυνση email ή λογαριασμό θα πρέπει να θεωρείται αυτόματα ύποπτο. Αν κάποιος λέει ότι είναι φίλος ή αγαπημένο πρόσωπο, επικοινωνήστε μαζί τους με τον τρόπο που θα κάνατε κανονικά. Πιθανότατα θα σας πουν ότι είναι καλά και ότι πρόκειται (όπως υποψιαζόσασταν) για απάτη.
Οι απατεώνες τείνουν να μην επιμένουν αν αγνοηθούν – ενώ ένα μέλος της οικογένειας πιθανότατα θα το κάνει. Είναι εντάξει να αφήσετε ένα ύποπτο μήνυμα να παραμένει αναγνωσμένο ενώ το εξετάζετε.
Προσωποποιημένες επιθέσεις phishing και ανεπιθύμητα μηνύματα μέσω email και μηνυμάτων
Όλοι λαμβάνουμε ανεπιθύμητα μηνύματα από καιρό σε καιρό, αλλά η τεχνητή νοημοσύνη που δημιουργεί κείμενο καθιστά δυνατή την αποστολή μαζικών email εξατομικευμένων για κάθε άτομο. Με τις παραβιάσεις δεδομένων να συμβαίνουν τακτικά, πολλά από τα προσωπικά σας δεδομένα είναι διαθέσιμα εκεί έξω.
Είναι ένα πράγμα να λάβετε ένα από αυτά τα «Κάντε κλικ εδώ για να δείτε το τιμολόγιό σας!» email απάτης με προφανώς τρομακτικά συνημμένα που φαίνονται τόσο χαμηλής προσπάθειας. Αλλά με ακόμα και λίγα δεδομένα, ξαφνικά γίνονται αρκετά πιστευτά, χρησιμοποιώντας πρόσφατες τοποθεσίες, αγορές και συνήθειες για να φαίνεται σαν να πρόκειται για πραγματικό άτομο ή πραγματικό πρόβλημα. Με λίγα προσωπικά στοιχεία, ένα μοντέλο γλώσσας μπορεί να εξατομικεύσει ένα γενικό πρότυπο αυτών των email σε χιλιάδες παραλήπτες σε μερικά δευτερόλεπτα. Με ένα πραγματικό όνομα, συνήθεια αγορών (εύκολο να βρεθεί), γενική τοποθεσία (το ίδιο) και ούτω καθεξής, ξαφνικά το μήνυμα είναι πολύ λιγότερο προφανές.
Πώς να αντιμετωπίσετε το email spam
Όπως με το παραδοσιακό spam, η επαγρύπνηση είναι το καλύτερο όπλο σας. Αλλά μην περιμένετε να ανιχνεύσετε το παραγόμενο κείμενο από το ανθρώπινο κείμενο. Ελάχιστοι μπορούν, και σίγουρα όχι άλλο μοντέλο AI.
Παρά τη βελτιωμένη σύνταξη, αυτό το είδος απάτης εξακολουθεί να έχει τη θεμελιώδη πρόκληση να σας κάνει να ανοίξετε ύποπτα συνημμένα ή συνδέσμους. Όπως πάντα, εκτός αν είστε 100% σίγουροι για την αυθεντικότητα και την ταυτότητα του αποστολέα, μην κάνετε ανοίξετε κάποιον σύνδεσμο.
Deepfakes και εκβιασμός με τεχνητή νοημοσύνη
Ίσως η πιο τρομακτική μορφή της νέας απάτης με τεχνητή νοημοσύνη είναι η πιθανότητα εκβιασμού χρησιμοποιώντας ψεύτικες εικόνες σας ή αγαπημένων προσώπων. Άτομα που ενδιαφέρονται για ορισμένες πτυχές της προηγμένης παραγωγής εικόνας έχουν δημιουργήσει διαδικασίες όχι μόνο για τη δημιουργία γυμνών σωμάτων, αλλά και για την τοποθέτησή τους σε οποιοδήποτε πρόσωπο μπορούν να βρουν μια φωτογραφία.
Αλλά ένα ακούσιο αποτέλεσμα είναι η επέκταση της μη συναινετικής διανομής σεξουαλικού υλικού. Όταν οι ιδιωτικές εικόνες κάποιου διαρρέουν μπορούν να χρησιμοποιηθούν ως εκβιασμός από τρίτους που απειλούν να τις δημοσιεύσουν ευρέως εκτός και αν πληρωθεί ένα ποσό.
Η τεχνητή νοημοσύνη ενισχύει αυτή την απειλή κάνοντας το να μην χρειάζεται να υπάρχουν πραγματικές προσωπικές εικόνες από την αρχή. Το πρόσωπο οποιουδήποτε μπορεί να προστεθεί σε ένα σώμα που δημιουργείται από AI, και ενώ τα αποτελέσματα δεν είναι πάντα πειστικά, πιθανότατα αρκεί να ξεγελάσουν κάποιον ή κάποιους αν είναι χαμηλής ανάλυσης ή αλλιώς μερικώς κρυμμένα.
Πώς να αντιμετωπίσετε τα deepfakes
Αυτά τα μοντέλα εικόνας μπορεί να παράγουν ρεαλιστικά σώματα με κάποιους τρόπους, αλλά όπως και με άλλα μοντέλα τεχνητής νοημοσύνης, γνωρίζουν μόνο αυτά που έχουν εκπαιδευτεί. Έτσι, από τις ψεύτικες εικόνες θα λείπουν οποιαδήποτε διακριτικά σημάδια, για παράδειγμα, και είναι πιθανό να είναι προφανώς λανθασμένες με άλλους τρόπους (λανθασμένες διαστάσεις σώματος).
Και ενώ η απειλή πιθανότατα ποτέ δεν θα μειωθεί πλήρως, ολοένα και περισσότερο υπάρχει ανακούφιση για τα θύματα, που μπορούν νομικά να υποχρεώσουν τους ιστότοπους που αναρτάται το υλικό να το κατεβάσουν ή να απαγορεύσουν την πρόσβαση στους επιτήδειους στους ιστότοπους όπου δημοσιεύουν. Καθώς το πρόβλημα μεγαλώνει, το ίδιο θα γίνει και με τα νομικά και ιδιωτικά μέσα για την καταπολέμησή του.
Πηγή: techcrunch.com
