Τι είναι μια οικογενειακή απάτη κλώνων φωνής AI; Πώς να το εντοπίσετε

Βασικά Takeaways

  • Η απάτη κλωνοποίησης φωνής χρησιμοποιεί την τεχνητή νοημοσύνη για να αναπαράγει τις φωνές αυθεντικά, θηρεύοντας τα συναισθήματα και την επείγουσα ανάγκη.
  • Οι απατεώνες αξιοποιούν τα δεδομένα των μέσων κοινωνικής δικτύωσης για να δημιουργήσουν πιστευτά σενάρια και να εκμεταλλευτούν προσωπικούς δεσμούς.
  • Να είστε προσεκτικοί και να μάθετε τις κόκκινες σημαίες των απατών κλώνων φωνής AI. κλείστε τις κλήσεις και επαληθεύστε μηνύματα κινδύνου.

Είναι αργά το βράδυ. Οι γονείς σας λαμβάνουν ένα φωνητικό μήνυμα από εσάς γεμάτο πανικό, το οποίο δηλώνει ότι αντιμετωπίζετε προβλήματα, σας έκλεψαν το πορτοφόλι και ότι έχετε κολλήσει στη μέση του πουθενά. Τα χρήματα πρέπει να σας συνδεθούν αμέσως για να μπορέσετε να επιστρέψετε στο σπίτι.

Η φωνή στο μήνυμα ακούγεται τόσο αληθινή και είναι αναμφισβήτητα αυτή του παιδιού τους — μόνο που δεν είναι. Είναι ένας κλώνος φωνής AI και έχουν γίνει στόχος μιας απάτης που είναι τόσο αιχμής όσο και ανατριχιαστικά αποτελεσματική.

Πώς λειτουργεί μια απάτη κλωνοποίησης φωνής AI;

Η κλωνοποίηση φωνής μπορεί να δημιουργήσει απίστευτα ρεαλιστικά ψηφιακά αντίγραφα της φωνής ενός ατόμου. Αυτή η τεχνική, που συνήθως ονομάζεται ήχος deepfake, δημιουργείται με εργαλεία κλωνοποίησης φωνής AI, όπως το ElevenLabs (δείτε το παράδειγμα κλωνοποίησης φωνής AI παρακάτω). Σε συνδυασμό με τη γενετική τεχνητή νοημοσύνη και τη σύνθεση φωνής, η κλωνοποιημένη φωνή μπορεί να αναπαράγει συναισθήματα, αποχρώσεις, τονισμό και ακόμη και φόβο.

Και για αναφορά, εδώ είναι πώς ακούγεται πραγματικά ο Christian Cawley, μιλώντας στο The Really Useful Podcast.

  10 Καλύτερη Πλατφόρμα Αυτοματισμού και Ενσωμάτωσης Ροών Εργασίας για Προσωπικά ή Επιχειρηματικά

Για να δημιουργήσετε έναν κλώνο φωνής AI, απαιτείται μόνο ένα μικρό δείγμα φωνής—συχνά μόνο ένα λεπτό ή λιγότερο. Δείγματα φωνών λαμβάνονται συχνά από δημόσιες αναρτήσεις στα μέσα κοινωνικής δικτύωσης, καθιστώντας τους video bloggers και τους influencers ιδιαίτερα ευάλωτους, καθώς η ποιότητα ήχου των αναρτήσεών τους είναι υψηλής ποιότητας και άμεσα διαθέσιμη.

Μόλις οι απατεώνες κλωνοποιήσουν το δείγμα φωνής, χρησιμοποιούν μετατροπή κειμένου σε ομιλία ή ακόμα και ομιλία σε ομιλία σε πραγματικό χρόνο για να δημιουργήσουν ψεύτικες κλήσεις και φωνητικά μηνύματα.

Έχοντας πρόσβαση στα μέσα κοινωνικής δικτύωσης του θύματος και συγκέντρωσε τα προσωπικά του στοιχεία, ο απατεώνας δημιουργεί ένα πιστευτό σενάριο. Αυτό μπορεί να είναι νοσηλεία, σύλληψη, κλοπή, απαγωγή – οτιδήποτε προκαλεί φόβο. Η κλωνοποιημένη φωνή στη συνέχεια χρησιμοποιείται για να χειραγωγήσει ένα μέλος της οικογένειας ώστε να πιστέψει ότι ένα αγαπημένο πρόσωπο αντιμετωπίζει σοβαρό πρόβλημα.

Ο ρεαλισμός της φωνής και των συναισθημάτων, σε συνδυασμό με το σοκ και τον επείγοντα χαρακτήρα του αιτήματος, μπορεί να υπερισχύσει του σκεπτικισμού, οδηγώντας σε βιαστικές αποφάσεις για μεταφορά χρημάτων ή παροχή ευαίσθητων πληροφοριών.

Γιατί οι απάτες κλωνοποίησης φωνής AI είναι τόσο αποτελεσματικές

Όπως οι περισσότερες απάτες που στοχεύουν την οικογένεια και τους φίλους, η απάτη κλωνοποίησης φωνής AI είναι αποτελεσματική καθώς εκμεταλλεύεται προσωπικούς δεσμούς. Ο πανικός της λήψης μιας κλήσης κινδύνου από ένα αγαπημένο πρόσωπο μπορεί γρήγορα να θολώσει την κρίση, με αποτέλεσμα να ληφθούν βιαστικές αποφάσεις. Είναι η ίδια τακτική που χρησιμοποιείται σε quid pro scams, αλλά το αποτέλεσμα επιδεινώνεται όταν ακούτε τη φωνή κάποιου κοντινού σας προσώπου.

Τα μέλη της οικογένειας εκείνων με υψηλή παρουσία στα μέσα κοινωνικής δικτύωσης ή εκείνων που ταξιδεύουν διατρέχουν ιδιαίτερο κίνδυνο, επειδή οι καταστάσεις τους παρέχουν ένα εύλογο πλαίσιο για την κατασκευασμένη αφήγηση του απατεώνα. Οι απατεώνες συχνά συγκεντρώνουν και χρησιμοποιούν τα ιδιωτικά δεδομένα των στόχων τους από τους δημόσιους λογαριασμούς τους στα μέσα κοινωνικής δικτύωσης εκ των προτέρων, κάνοντας τις ιστορίες ακόμα πιο πειστικές.

  Λίστα με τους δωρεάν κωδικούς Insider ταινιών της Disney

Βασικά σημάδια απάτης φωνητικού κλώνου AI

Παρά την πολυπλοκότητά τους, οι απάτες κλώνων φωνής AI μπορούν να αποκαλυφθούν μέσω συγκεκριμένων κόκκινων σημαιών:

  • Επείγον: Ο απατεώνας θα σας πείσει ότι κάτι τρομερό θα συμβεί αν δεν ληφθούν άμεσα μέτρα.
  • Γεγονότα: Οι απατεώνες δεν γνωρίζουν πάντα την πλήρη ιστορία πίσω από τη σχέση σας με τον στόχο, οπότε δώστε προσοχή στις ασυνέπειες.
  • Ασυνήθιστα αιτήματα: Τα αιτήματα για μεταφορά χρημάτων σε τραπεζικούς λογαριασμούς στο εξωτερικό ή πληρωμή σε πορτοφόλι κρυπτονομισμάτων είναι συνήθεις τακτικές.

Είναι δύσκολο να λάβετε υπόψη αυτούς τους παράγοντες όταν παρουσιάζεται ένα τρομερό σενάριο, αλλά θα μπορούσε να σας εμποδίσει να σας εξαπατήσουν.

Τι να κάνετε εάν υποψιάζεστε μια απάτη κλώνου φωνής AI

Εάν λάβετε κλήση ή φωνητικό μήνυμα από τα αγαπημένα σας πρόσωπα που βρίσκονται σε κίνδυνο, μείνετε ήρεμοι. Οι απατεώνες βασίζονται σε εσάς για να πανικοβληθούν και να γίνουν συναισθηματικοί, καθώς αυτό αυξάνει την ευαλωτότητά σας στις τακτικές τους.

Εάν λάβετε ένα τηλεφώνημα

Εάν υποψιάζεστε, έστω και για ένα δευτερόλεπτο, ότι μια κλήση μπορεί να είναι απάτη κλωνοποίησης φωνής, κλείστε αμέσως την κλήση. Μην κοινοποιείτε πληροφορίες και μην εμπλακείτε με απατεώνες. Αντίθετα, καλέστε το αγαπημένο σας πρόσωπο σε έναν γνωστό αριθμό για να επιβεβαιώσετε την αυθεντικότητα της κλήσης κινδύνου.

Η περαιτέρω συνομιλία με τους απατεώνες μπορεί να διακινδυνεύσει την εγγραφή και την κλωνοποίηση της φωνής σας επίσης.

Εάν λάβετε ένα φωνητικό μήνυμα

Εάν οι απατεώνες έχουν αφήσει φωνητικό μήνυμα, αποθηκεύστε αμέσως τον ήχο στο τηλέφωνο ή το φορητό υπολογιστή σας. Αυτό το δείγμα ήχου μπορεί να χρησιμοποιηθεί σε ένα εργαλείο ταξινόμησης ομιλίας AI για να προσδιοριστεί εάν πρόκειται για ανθρώπινη φωνή. Αυτοί οι ταξινομητές ομιλίας AI λειτουργούν ακριβώς όπως οι ανιχνευτές γραφής AI. Απλώς εισάγετε το αρχείο ήχου και ο ταξινομητής θα το επισημάνει ως ανθρώπινο ή τεχνητής νοημοσύνης.

  Καταργήστε τις εφαρμογές συστήματος, κρυφών και πλαισίου

Ένα εξαιρετικό εργαλείο για την εκτέλεση αυτού του ελέγχου είναι ο ταξινομητής ομιλίας ElevenLabs. Το ElevenLabs εξουσιοδοτεί τις περισσότερες πλατφόρμες κλωνοποίησης AI, επομένως είναι ένα ιδανικό εργαλείο για να προσδιορίσετε εάν μια φωνή έχει κλωνοποιηθεί. Δείτε πώς μπορείτε να το χρησιμοποιήσετε για να προσδιορίσετε μια φωνή κλωνοποιημένη με AI:

  • μεταβείτε στο Ταξινομητής ομιλίας ElevenLabs.
  • Ανεβάστε ένα δείγμα του φωνητικού μηνύματος και κάντε κλικ στο “Εντοπισμός σύνθεσης ομιλίας”.
  • Στο παρακάτω παράδειγμα, ένα ανησυχητικό μήνυμα καταγράφηκε από έναν άνθρωπο και μεταφορτώθηκε στον ταξινομητή. Μπορείτε να δείτε ότι έχει επισημανθεί ότι έχει 2% πιθανότητα χειραγώγησης.

    Στο επόμενο παράδειγμα, το ίδιο οδυνηρό μήνυμα δημιουργήθηκε με ένα εργαλείο κλωνοποίησης φωνής AI. Στο ανθρώπινο αυτί, οι φωνές είναι δυσδιάκριτες. Το εργαλείο, ωστόσο, το έχει επισημάνει ως με πιθανότητα 98% να έχει δημιουργηθεί από AI.

    Αν και δεν μπορείτε να βασιστείτε σε αυτόν τον ταξινομητή 100%, μπορεί να επιβεβαιώσει τις υποψίες σας για χρήση μιας κλωνοποιημένης φωνής. Θα πρέπει επίσης να επικοινωνήσετε με το αγαπημένο σας πρόσωπο σε έναν γνωστό αριθμό για επιβεβαίωση.

    Η πρόληψη είναι η καλύτερη άμυνα ενάντια στις απάτες κλωνοποίησης φωνής AI

    Μερικές φορές, η καλύτερη άμυνα ενάντια σε μια απάτη υψηλής τεχνολογίας είναι μια λύση χαμηλής τεχνολογίας.

    Δημιουργήστε έναν κωδικό πρόσβασης εκτός σύνδεσης που είναι γνωστός μόνο στα αγαπημένα σας πρόσωπα με την οικογένεια και τους φίλους σας. Σε περίπτωση ξέφρενης κλήσης, η χρήση αυτού του κωδικού πρόσβασης μπορεί να είναι ένας σίγουρος τρόπος για να επιβεβαιώσετε την ταυτότητα του καλούντος.

    Τέλος, η διατήρηση των προσωπικών σας πληροφοριών μακριά από τα μέσα κοινωνικής δικτύωσης είναι ένα τεράστιο βήμα προς τη διασφάλιση ότι οι απατεώνες δεν μπορούν να συγκεντρώσουν αρκετές πληροφορίες για να δημιουργήσουν μια αφήγηση. Θυμηθείτε: Αν δεν θέλετε να το γνωρίζουν όλοι, καλύτερα να μην το κοινοποιήσετε στα μέσα κοινωνικής δικτύωσης.