Η κίνηση αυτή έρχεται λίγες ημέρες αφότου η αστυνομία της Νότιας Κορέας ανακοίνωσε ότι ξεκίνησε έρευνα κατά του Telegram, κατηγορώντας την για «υποκίνηση» της διανομής τέτοιων εικόνων. Τις τελευταίες εβδομάδες διαπιστώθηκε ότι ένας μεγάλος αριθμός chatrooms του Telegram, πολλά από τα οποία διευθύνονταν από εφήβους, δημιουργούσαν σεξουαλικά ρητά «deepfakes» χρησιμοποιώντας παραποιημένες φωτογραφίες νεαρών γυναικών.

Οι αρχές λένε ότι το Telegram έχει από τότε αφαιρέσει τέτοια βίντεο από την πλατφόρμα του. Σε δήλωσή της προς την Επιτροπή Επικοινωνιακών Προτύπων της Νότιας Κορέας (KCSC), το Telegram ανέφερε ότι η κατάσταση ήταν «ατυχής», προσθέτοντας ότι «ζητά συγγνώμη αν υπήρξε κάποιο στοιχείο παρεξήγησης». Επιβεβαίωσε επίσης ότι κατέβασε 25 τέτοια βίντεο, όπως ζήτησε η KCSC.

Στην τελευταία της δήλωση προς την KCSC, το Telegram πρότεινε επίσης μια διεύθυνση ηλεκτρονικού ταχυδρομείου αφιερωμένη στη μελλοντική επικοινωνία με τη ρυθμιστική αρχή.  KCSC χαρακτήρισε την προσέγγιση της εταιρείας ως «πολύ προνοητική» και δήλωσε ότι το Telegram «αναγνώρισε τη σοβαρότητα» της κατάστασης.

Τα deepfakes δημιουργούνται με τη χρήση τεχνητής νοημοσύνης και συχνά συνδυάζουν το πρόσωπο ενός πραγματικού προσώπου με ένα ψεύτικο σώμα. Η πρόσφατη κρίση των deepfake αντιμετωπίστηκε με οργή στη Νότια Κορέα, αφού οι δημοσιογράφοι ανακάλυψαν ότι η αστυνομία ερευνούσε κυκλώματα πορνογραφίας deepfake σε δύο από τα μεγαλύτερα πανεπιστήμια της χώρας.

Αργότερα προέκυψε ότι η αστυνομία έλαβε 118 αναφορές για τέτοια βίντεο τις τελευταίες πέντε ημέρες. Επτά ύποπτοι, έξι εκ των οποίων είναι έφηβοι, ανακρίθηκαν από την αστυνομία την τελευταία εβδομάδα. Οι ομάδες συνομιλίας συνδέονταν με μεμονωμένα σχολεία και πανεπιστήμια σε ολόκληρη τη χώρα. Πολλά από τα θύματά τους ήταν μαθητές και καθηγητές που ήταν γνωστοί στους δράστες.

Στη Νότια Κορέα, όσοι κριθούν ένοχοι για τη δημιουργία σεξουαλικών deepfakes μπορούν να φυλακιστούν έως και πέντε χρόνια και να τους επιβληθεί πρόστιμο έως και 50 εκατομμύρια γουόν (33.923 Ευρώ).

Το 2019, ανακαλύφθηκε ότι ένα κύκλωμα σεξουαλικών συναλλαγών είχε χρησιμοποιήσει την εφαρμογή για να εκβιάσει δεκάδες γυναίκες και παιδιά να γυρίσουν πορνογραφικό περιεχόμενο. Ο αρχηγός του κυκλώματος, ο Τσο Τζου-Μπιν, ο οποίος ήταν τότε 20 ετών, καταδικάστηκε σε 42 χρόνια φυλάκισης.

Η έρευνα της Αστυνομίας της Σεούλ ξεκίνησε μετά τη σύλληψη, στις 28 Αυγούστου στη Γαλλία, του επικεφαλής του Telegram, Πάβελ Ντούροφ. Επειτα από τέσσερις ημέρες κράτησης, ο δισεκατομμυριούχος Ντούροφ αφέθηκε ελεύθερος από τις γαλλικές αρχές υπό αυστηρό δικαστικό έλεγχο, στο πλαίσιο του οποίου είναι υποχρεωμένος να παρουσιάζεται δύο φορές την εβδομάδα σε αστυνομικό τμήμα, ενώ του έχει απαγορευθεί και η έξοδος από τη χώρα.

Η γαλλική Δικαιοσύνη ερευνά τον Ντούροφ επειδή αρνήθηκε να συνεργαστεί με τις Αρχές στην έρευνά τους εις βάρος κάποιων χρηστών του Telegram και επειδή τον θεωρεί συνεργό, ως διαχειριστή της πλατφόρμας, σε κάποια εγκλήματα που φέρονται να διαπράχθηκαν μέσω αυτής.