Οι πλατφόρμες κοινωνικής δικτύωσης είχαν πάντα ανεπιθύμητα μηνύματα (spam) και ανεπιθύμητη αλληλογραφία (junk). Το νέο είναι ότι η παραγωγική τεχνητή νοημοσύνη έχει κάνει την «παραγωγή περιεχομένου» σχεδόν δωρεάν — και αυτό αλλάζει την ισορροπία μεταξύ αυτού που θέλουν οι χρήστες και αυτού που μπορεί να προσφέρει οικονομικά η ροή.
Η «ακατάλληλη» τεχνητή νοημοσύνη (φθηνές, συνθετικές εικόνες και βίντεο με χαμηλή προσπάθεια) δεν είναι απλώς ένα αισθητικό παράπονο. Είναι ένα σημάδι ότι τοτα κίνητρα της οικονομίας των δημιουργών και τα κίνητρα των αλγορίθμων κατάταξηςσυγκρούονται με μια νέα καμπύλη προσφοράς: απεριόριστα, μηχανικά κατασκευασμένα μέσα ενημέρωσης.
Η αντίδραση που βλέπουμε είναι μια πρώιμη προσπάθεια αποκατάστασης της εμπιστοσύνης και του νοήματος σε ροές που βελτιστοποιούνται όλο και περισσότερο για αλληλεπίδραση παρά για αυθεντικότητα.
Τι εννοούν οι άνθρωποι με τον όρο «ακατάλληλη τεχνητή νοημοσύνη»
Ο όρος «ακατάλληλη για χρήση από την Τεχνητή Νοημοσύνη» δεν είναι τεχνικός, αλλά πολιτισμικός. Συνήθως αναφέρεται σε μέσα που παράγονται από την Τεχνητή Νοημοσύνη, τα οποία:
- παράγεται γρήγορα (και χύμα)
- επαναλαμβανόμενο (ίδια πρότυπα, χαρακτήρες, τροπικά στοιχεία)
- συναισθηματικά χειριστικό (συγκινητικά παιδιά, θρησκευτικές εικόνες, σοκαριστικό αίμα)
- χαμηλό επαληθεύσιμο πλαίσιο (χωρίς πηγή, χωρίς προέλευση, χωρίς λογοδοσία)
Μερικά από αυτά είναι κωμικά και προφανώς ψεύτικα (γορίλες που σηκώνουν βάρη, ψαρεύουν με παπούτσια). Μερικά από αυτά έχουν σχεδιαστεί για να παραπλανούν — και εκεί είναι που γίνονται διαβρωτικά.
Ένα βασικό σημείο είναι ότι το «slop» δεν αφορά μόνο το αν μια εικόνα είναι «πραγματική». Αφορά το αν είναιβαρυσήμαντοςΌταν οι ροές δεδομένων γεμίζουν με συνθετικό θόρυβο, ακόμη και το πραγματικό περιεχόμενο αρχίζει να φαίνεται λιγότερο πολύτιμο επειδή ανταγωνίζεται στην ίδια αγορά προσοχής.
Το σοκ της προσφοράς: γιατί η ροή τροφίμων άλλαξε τόσο γρήγορα
Ο λόγος που συμβαίνει αυτό τώρα είναι απλός οικονομικός: το οριακό κόστος παραγωγής ενός κλιπ έχει καταρρεύσει.
Πριν από την παραγωγική Τεχνητή Νοημοσύνη, ένας δημιουργός χρειαζόταν χρόνο, εξοπλισμό, δεξιότητες επεξεργασίας ή τουλάχιστον μια συνεκτική ιδέα. Με τα σύγχρονα εργαλεία εικόνας και βίντεο, ένας δημιουργός μπορεί να δημιουργήσει δεκάδες ή εκατοντάδες παραλλαγές γρήγορα, να δοκιμάσει ποιες έχουν απόδοση και να κλιμακώσει ό,τι λειτουργεί.
Αυτό δημιουργεί ένα «σοκ στην προσφορά περιεχομένου» στο οποίο τα συστήματα κατάταξης δεν σχεδιάστηκαν ποτέ να αντιστέκονται.
Εάν η ροή σας υποστηρίζεται από έναν αλγόριθμο που έχει εκπαιδευτεί για να μεγιστοποιεί την αλληλεπίδραση και η αλληλεπίδραση είναι εύκολο να δημιουργηθεί με συναισθηματικά φορτισμένο συνθετικό περιεχόμενο, το σύστημα θα την ενισχύσει φυσικά — ακόμα κι αν οι χρήστες αργότερα πουν ότι το μισούν.
Το τυφλό σημείο του αλγορίθμου: η αλληλεπίδραση δεν είναι ποιότητα
Οι περισσότερες πλατφόρμες δεν κατατάσσουν το περιεχόμενο με βάση την αλήθεια ή τη χρησιμότητα. Κατατάσσονται με βάση τα σήματα που μπορούν να μετρήσουν:
- χρόνος παρακολούθησης
- μου αρέσει/αντιδράσεις
- σχόλια
- αναδημοσιεύσεις
- κλικ
Αυτές οι μετρήσεις καταγράφουν την ένταση, όχι την ακρίβεια.
Τα μέσα που δημιουργούνται από την τεχνητή νοημοσύνη συχνά αποδίδουν καλά σε σχέση με αυτές τις μετρήσεις επειδή:
- πλούσιο σε καινοτομίες (εκπληκτικά γραφικά)
- συναισθηματικά βελτιστοποιημένο (χαριτωμένο, σοκαριστικό, εξοργιστικό)
- ατελείωτα αναμίξιμο (οι παραλλαγές είναι φθηνές)
Αυτό δημιουργεί ένα παράδοξο: οι χρήστες μπορεί να παραπονιούνται για ακατάλληλα σχόλια, αλλά η ίδια η πράξη του σχολιασμού μπορεί να βοηθήσει στην εξάπλωσή τους.
Με άλλα λόγια, η «αντίδραση» μπορεί να γίνει καύσιμο.
Η οικονομία του δημιουργού: κίνητρα για την κατάκλυση της ζώνης
Ένας δεύτερος παράγοντας είναι η δημιουργία εσόδων. Εάν ένα κανάλι μπορεί να κερδίσει χρήματα από προβολές και αλληλεπίδραση, το κίνητρο είναι να δημοσιεύσει όσο το δυνατόν περισσότερα και να αφήσει τον αλγόριθμο να επιλέξει τους νικητές.
Όταν η Τεχνητή Νοημοσύνη μειώνει το κόστος παραγωγής, ο ανταγωνισμός επικεντρώνεται λιγότερο στην κατασκευαστική τέχνη και περισσότερο στα εξής:
- τόμος
- πειραματισμός
- βελτιστοποίηση για το σύστημα συστάσεων
Αυτός είναι ο λόγος για τον οποίο μερικές από τις πιο ορατές συστάδες κλίσης γύρω από προβλέψιμα τροπικά στοιχεία: είναι αποδεδειγμένα πρότυπα εμπλοκής.
Εξηγεί επίσης γιατί οι πλατφόρμες μπορεί να μιλούν για «καταστολή» ενώ παράλληλα προωθούν εργαλεία που διευκολύνουν τη δημιουργία: το επιχειρηματικό τους μοντέλο βασίζεται σε άφθονο περιεχόμενο και όχι σε σπάνιο.
Η ανθρώπινη πλευρά: προσοχή, εμπιστοσύνη και «εγκεφαλική σήψη»
Μία από τις πιο πιθανές μακροπρόθεσμες βλάβες δεν είναι ότι όλοι ξεγελιούνται από ένα συγκεκριμένο ψεύτικο βίντεο. Είναι ότι η συνεχής έκθεση σε συνθετικά μέσα χαμηλής σημασίας αλλάζει τον τρόπο που σχετιζόμαστε με το feed.
Υπάρχουν τουλάχιστον τρεις ψυχολογικές επιπτώσεις που αξίζει να προσέξετε:
-
Κόπωση επαλήθευσης
Αν ο προσδιορισμός του «είναι αληθινό;» απαιτεί προσπάθεια, πολλοί άνθρωποι θα σταματήσουν να ελέγχουν με την πάροδο του χρόνου. Η προεπιλογή γίνεται το αδιάφορο βλέμμα. -
Κατακερματισμός προσοχής
Το περιεχόμενο σύντομης μορφής με υψηλή διέγερση εκπαιδεύει τους ανθρώπους να προχωρούν γρήγορα. Όταν η ροή αυξάνει την ένταση των ερεθισμάτων, η τροφή μετατρέπεται σε διάδρομο γυμναστικής. -
Διάβρωση εμπιστοσύνης
Όταν οι χρήστες αισθάνονται ότι χειραγωγούνται — από δημιουργούς, από εργαλεία τεχνητής νοημοσύνης ή από την πλατφόρμα — μπορεί να εμπιστεύονται λιγότερο όχι μόνο το ψεύτικο περιεχόμενο, αλλά και το πραγματικό περιεχόμενο.
Αυτός είναι ο βασικός κίνδυνος: όχι μία εξαπάτηση, αλλά μια γενική μείωση της «θερμοκρασίας αλήθειας» της διαδικτυακής ζωής.
Η εποπτεία επανασχεδιάζεται με βάση μια κακή υπόθεση
Το δύσκολο για τις πλατφόρμες είναι ότι το «AI slop» δεν αποτελεί μία κατηγορία απαγορευμένου περιεχομένου. Καλύπτει:
- ανεπιθύμητα μηνύματα
- απάτες
- κακή πληροφορία
- ενοχλητικό περιεχόμενο
- σκουπίδια χαμηλής προσπάθειας
Και συχνά είναι υποκειμενικό. Η «αδικία» του ενός είναι η ψυχαγωγία του άλλου.
Ταυτόχρονα, πολλές πλατφόρμες έχουν μειώσει την ικανότητα ανθρώπινης εποπτείας και έχουν στραφεί προς:
- αυτοματοποίηση
- αναφορά χρηστών
- ετικέτες κοινότητας
Αυτό δεν λειτουργεί καλά όταν ο αντίπαλος είναι μεγάλου όγκου και προσαρμοστικός.
Ακόμα χειρότερα, η ίδια η εποπτεία μπορεί να γίνει πολιτική: αν ορίσετε την «χαμηλή ποιότητα» πολύ αυστηρά, οι δημιουργοί σας κατηγορούν για λογοκρισία. αν την ορίσετε πολύ χαλαρά, οι χρήστες σας κατηγορούν ότι αφήνετε την πλατφόρμα να σαπίσει.
Η ελλείπουσα υποδομή: προέλευση και «απόδειξη προέλευσης»
Ένα πολλά υποσχόμενο πλαίσιο είναι η μετάβαση από την «ανίχνευση ψεύτικων στοιχείων» στην «απόδειξη πραγματικών στοιχείων».
Η ανίχνευση είναι δύσκολη επειδή τα γενετικά μέσα βελτιώνονται και επειδή δεν υπάρχει μία και μοναδική ένδειξη. Η προέλευση είναι δύσκολη επειδή απαιτεί πρότυπα και υιοθέτηση.
Αλλά η προέλευση έχει ένα πλεονέκτημα: μπορεί να κατασκευαστεί ως μια αλυσίδα αποδεικτικών στοιχείων:
- καταγραφή μεταδεδομένων
- υπογραφή κατά τη δημιουργία
- αποθήκευση χωρίς παραβίαση
- επαλήθευση κατά την μεταφόρτωση
Εάν μια πλατφόρμα μπορεί να προσφέρει μια ετικέτα «επαληθευμένης προέλευσης» που έχει πραγματικά νόημα, μπορεί να βοηθήσει τους χρήστες να διαφοροποιήσουν:
- πραγματικό υλικό
- επεξεργασμένο αλλά αυθεντικό υλικό
- συνθετικά μέσα
Ωστόσο, η προέλευση ισχύει μόνο εάν:
- οι δημιουργοί επιλέγουν να συμμετάσχουν
- οι πλατφόρμες επιβάλλουν συνεπή επισήμανση
- το σύστημα αντιστέκεται στην εύκολη πλαστογράφηση
Διαφορετικά, γίνεται ένα ακόμη διακοσμητικό σήμα.
Μπορούν να υπάρξουν «μέσα κοινωνικής δικτύωσης χωρίς απερισκεψίες»;
Μια τροφοδοσία χωρίς πλήρως κατακάθια είναι απίθανη, επειδή τα όρια μεταξύ:
- δημιουργικό remix
- σάτυρα
- ανεπιθύμητα μηνύματα
- εξαπάτηση
...είναι δύσκολο να οριστεί και πιο εύκολο να αξιοποιηθεί.
Αλλά μια πλατφόρμα μπορεί ακόμα να αλλάξει τον τρόπο σκέψης αλλάζοντας τα κίνητρα:
- μείωση της δημιουργίας εσόδων για μαζικό περιεχόμενο χαμηλής προσπάθειας
- επιταχύνει τις επαναλαμβανόμενες μεταφορτώσεις
- τιμωρήστε τα μοτίβα δολώματος εμπλοκής
- ανταμοιβή μέσων επαληθευμένης προέλευσης
- αύξηση των τριβών για ύποπτους λογαριασμούς
Η απλούστερη εκδοχή δεν είναι «απαγόρευση της τεχνητής νοημοσύνης». είναι «σταματήστε να ανταμείβετε τον φθηνό όγκο».
Δύο πιθανά μέλλοντα
Μέλλον 1: ομαλοποίηση.Οι χρήστες προσαρμόζονται, οι πλατφόρμες προσθέτουν ετικέτες και τα άσχημα μηνύματα γίνονται θόρυβος περιβάλλοντος — όπως τα ανεπιθύμητα email. Οι άνθρωποι μαθαίνουν ποιες γωνιές του διαδικτύου να εμπιστεύονται.
Σε αυτόν τον κόσμο, το «αληθινό» γίνεται μια εξειδικευμένη προσθήκη αξίας. Ο μέσος χρήστης αντιμετωπίζει την ροή ως ψυχαγωγία περιβάλλοντος και το κόστος του λάθους (σχετικά με το αν ένα κλιπ είναι αυθεντικό) είναι αρκετά χαμηλό που οι άνθρωποι σταματούν να ενδιαφέρονται.
Μέλλοντας 2: διακλάδωση.Οι ροές δεδομένων διαχωρίζονται. Ένα επίπεδο γίνεται ψυχαγωγικό και συνθετικό. Ένα άλλο επίπεδο γίνεται μικρότερο, επιμελημένο, με επίγνωση της προέλευσης και πιο ακριβό στη συντήρηση.
Σε αυτόν τον κόσμο, η εμπιστοσύνη γίνεται προϊόν. Οι κοινότητες πληρώνουν για την ανθρώπινη επιμέλεια, τους αυστηρότερους ελέγχους ταυτότητας και τους σαφέστερους κανόνες σχετικά με τα συνθετικά μέσα. Το αντάλλαγμα είναι η κλίμακα: ένα δίκτυο υψηλής εμπιστοσύνης αναπτύσσεται πιο αργά επειδή δεν μπορεί να ανεχθεί άπειρο φθηνό περιεχόμενο.
Αν συμβεί αυτό το δεύτερο μέλλον, η βασική σπανιότητα δεν θα είναι ικανοποιημένη. Θα είναιεμπιστοσύνη.
Μια πρακτική λίστα ελέγχου για χρήστες (και για πλατφόρμες)
Γιαχρήστες:
- Αν μια ανάρτηση ζητά πρώτα το συναίσθημα (likes, αγανάκτηση, οίκτο), υποθέστε ότι πρόκειται για χειραγώγηση μέχρι να δείτε τα συμφραζόμενα.
- Προτιμήστε δημιουργούς που παρέχουν συστηματικά την προέλευση: πού/πότε/πώς τραβήχτηκε το υλικό.
- Μην «διαφωνείτε στα σχόλια» για προφανείς ασυναρτησίες. Μπορεί να εκπαιδεύετε τη ροή.
Γιαπλατφόρμες:
- Περιορίστε τον ρυθμό μαζικής μεταφόρτωσης και τιμωρήστε τις σχεδόν διπλότυπες παραλλαγές.
- Κάντε την επισήμανση των μέσων που παράγονται από τεχνητή νοημοσύνη εκτελεστή και όχι προαιρετική.
- Αντιμετωπίστε την προέλευση ως υποδομή: υπογραφή, επαλήθευση και ίχνος ελέγχου.
- Ευθυγραμμίστε τη δημιουργία εσόδων έτσι ώστε το μαζικό περιεχόμενο με χαμηλή προσπάθεια να είναι λιγότερο κερδοφόρο.
Συμπέρασμα
Η κακή χρήση της τεχνητής νοημοσύνης δεν είναι τόσο μια «περίεργη τάση του διαδικτύου» όσο ένα προβλέψιμο αποτέλεσμα σύγκρουσης δύο κινήτρων: αλγορίθμων που ανταμείβουν την εμπλοκή και εργαλείων που καθιστούν την παραγωγή περιεχομένου σχεδόν δωρεάν.
Η αρνητική αντίδραση είναι πραγματική, αλλά θα αλλάξει τη ροή μόνο εάν αλλάξει τα κίνητρα — είτε μέσω της πολιτικής πλατφόρμας (περιορισμός του όγκου και επιβράβευση της προέλευσης) είτε μέσω της μετεγκατάστασης χρηστών σε χώρους όπου η αυθεντικότητα είναι το προϊόν.
Πηγές
- BBC News (Τεχνολογία):https://www.bbc.com/news/articles/c9wx2dz2v44o?at_medium=RSS&at_campaign=rss