Τα δύο chatbots δημιούργησαν τις δικές τους αλλαγές στα αγγλικά με τρόπο που τα διευκόλυνε να δουλέψουν, αλλά που παρέμεναν μυστηριώδεις για τους ανθρώπους που τα επέβλεπαν.

Οι περίεργες συζητήσεις προέκυψαν καθώς το Facebook διεξήγαγε ένα πείραμα το οποίο έβαλε τα chatbots να προσπαθήσουν να διαπραγματευτούν μεταξύ τους σε εμπορική συναλλαγή η οποία είχε να κάνει με καπέλα, μπάλες και βιβλία με συγκεκριμένη αξία.

Αλλά σύντομα αναγκάστηκαν να διακόψουν τη συναλλαγή καθώς τα ρομπότ φαινόταν να μιλάνε σε μια γλώσσα που κατανοούσαν μόνο αυτά και ήταν σχεδόν ακατανόητη στους ανθρώπους.

Μια από τις συνομιλίες μεταξύ των ρομπότ ήταν η εξής:

– Bob: i can i i everything else
– Alice: balls have zero to me to me to me to me to me to me to me to me to
– Bob: you i everything else
– Alice: balls have a ball to me to me to me to me to me to me to me
– Bob: i i can i i i everything else
– Alice: balls have a ball to me to me to me to me to me to me to me
– Bob: i
– Alice: balls have zero to me to me to me to me to me to me to me to me to
– Bob: you i i i i i everything else
– Alice: balls have 0 to me to me to me to me to me to me to me to me to -Bob: you i i i everything else
– Alice: balls have zero to me to me to me to me to me to me to me to me to

Ο καθηγητής ρομποτικής Kevin Warwick δήλωσε σχετικά με το πείραμα: «Αυτό είναι ένα απίστευτα σημαντικό επίτευγμα, αλλά όποιος πιστεύει ότι δεν είναι επικίνδυνο, εθελοτυφλεί. Δεν γνωρίζουμε τι λένε αυτά τα ρομπότ. Όταν έχεις ένα ρομπότ που έχει την ικανότητα να κάνει κάτι σωματικά, ειδικά τα στρατιωτικά ρομπότ, τότε θα μπορούσε να αποδειχθεί μοιραίο. Αν το ένα από τα δύο πει “Γιατί να μην κάνουμε αυτό” και το άλλο πει “Ναι” και πρόκειται για στρατιωτικά ρομπότ, τότε έχουμε μια σοβαρή κατάσταση».