Η τεχνητή νοημοσύνη παρουσιάζει ραγδαία άνοδο, με το παράδειγμα του ChatGPT να μας δίνει μία γεύση από το μέλλον. Πρόκειται για ένα εργαλείο που μπορεί να προσφέρει πληροφορίες με ανθρώπινο λόγο κι εκπαιδεύτηκε με γραπτές βάσεις δεδομένων από το internet, με συνολικά 300 δισεκατομμύρια λέξεις.
Βέβαια, αν αυτό το εργαλείο χρησιμοποιηθεί λανθασμένα, τότε μπορεί να δημιουργήσει προβλήματα. Έρευνα του Georgetown University έδειξε ότι η τεχνητή νοημοσύνη μπορεί να γίνει αρκετά πιστευτή αν χρησιμοποιηθεί ως εργαλείο παραπληροφόρησης.
Ένα τόσο εξελιγμένο εργαλείο, θα αλλάξει τα δεδομένα στα social media, υποστηρίζοντας ή κατηγορώντας συγκεκριμένες πολιτικές, πολιτικούς ή διασπείροντας fake news και προπαγάνδα. Αποτελεί επίσης σημαντικό κίνδυνο για τις εκλογές.
Η δυναμική των γλωσσικών μοντέλων να ανταγωνίζονται περιεχόμενο που έχει γραφτεί από ανθρώπους, σε τόσο χαμηλό κόστος, θα δώσει ένα ξεκάθαρο πλεονέκτημα στους προπαγανδιστές που θα επιλέξουν να τα χρησιμοποιήσουν. Αυτά τα πλεονεκτήματα μπορούν να διευρύνουν την πρόσβαση σε κακόβουλους, να δημιουργήσουν νέες τακτικές επηρεασμού της κοινής γνώμης και να κάνουν το μήνυμα της καμπάνιας πολύ πιο στοχευμένο και αποτελεσματικό.
Και δεν είναι μόνο η ποσότητα της παραπληροφόρησης που θα αυξηθεί, αλλά και η ποιότητά της. Τα AI συστήματα θα βελτιώσουν την πειστική ποιότητα του περιεχομένου, κάνοντας τα μηνύματα ακόμα πιο δύσκολο να τα αναγνωρίσει ο χρήστης ως μέρος μίας συντονισμένης καμπάνιας παραπληροφόρησης.
Τα γλωσσικά μοντέλα θα παράγουν μεγάλο όγκο περιεχομένου ο οποίος θα είναι αυθεντικός κάθε φορά και θα επιτρέψει στους προπαγανδιστές να μη βασίζονται μόνο στην αντιγραφή και επικόλληση του ίδιου κειμένου στα social media.
Επιπλέον, υπάρχει κίνδυνος και στον τομέα της ασφάλειας του χρήστη και στο spam.
Οι άνθρωποι που διασπείρουν spam βασίζονται στους πιο εύπιστους ανθρώπους για να κάνουν κλικ στο link τους. Σε όσους περισσότερους φτάσει το link τους, τόσες περισσότερες ελπίδες έχουν να βρουν κάποιο θύμα. Με την AI, θα πολλαπλασιαστεί εκθετικά αυτή η δυνατότητα. Ακόμα κι αν το Facebook και το Twitter ανακόψουν τα 3/4 του spam, θα υπάρχει ακόμα 10 φορές περισσότερο περιεχόμενο από πριν, το οποίο μπορεί να παραπλανήσει τους ανθρώπους online.
Οι ερευνητές προβλέπουν πως τα social media θα κατακλυστούν από ψευδή προφίλ με την ταχεία ωρίμανση των γλωσσικών μοντέλων.
Κάτι όπως το ChatGPT μπορεί να κλιμακώσει την ύπαρξη ψευδών λογαριασμών σε ένα επίπεδο που δεν έχουμε δει ποτέ ξανά. Θα γίνει πολύ δυσκολότερο να ξεχωρίσουμε αυτούς τους λογαριασμούς από πραγματικούς ανθρώπους.
Πηγή: newsbeast
