Ένα σώμα ενόρκων στο Λος Άντζελες έκρινε ότι ο τρόπος με τον οποίο έχουν σχεδιαστεί το Instagram και το YouTube συνέβαλε στα σοβαρά προβλήματα ψυχικής υγείας μιας 20χρονης, που χρησιμοποιούσε εμμονικά τις πλατφόρμες από παιδική ηλικία. Η απόφαση μετατρέπει μια χρόνια συζήτηση για το „έξυπνο“ engagement σε νομικό ζήτημα σχετικά με το πού σταματά ο σχεδιασμός που κρατά τον χρήστη στην πλατφόρμα και πού αρχίζει η ευθύνη για εθισμό και βλάβη.
Οι ένορκοι δεν είπαν απλώς ότι τα social media μπορεί να κάνουν κακό. Διαπίστωσαν ότι οι εταιρείες ενσωμάτωσαν συνειδητά μηχανισμούς που κρατούν τους νέους «κολλημένους», γνώριζαν τους κινδύνους, δεν προειδοποίησαν επαρκώς και ότι ένας μέσος χρήστης δεν μπορούσε να αντιληφθεί το ρίσκο, γι’ αυτό η Meta και η Google κρίθηκαν υπεύθυνες και υποχρεώνονται να καταβάλουν συνολικά 6 εκατ. δολάρια σε αποζημιώσεις. Για γονείς, σχολεία και πολιτείες που ετοιμάζουν χιλιάδες παρόμοιες αγωγές, το μήνυμα είναι ότι αυτή η νομική στρατηγική μπορεί να αποδώσει και ότι τα επιχειρηματικά μοντέλα που βασίζονται στην προσοχή θα βρεθούν πλέον στο μικροσκόπιο των δικαστηρίων.
Τι πραγματικά αφορά αυτή η δικαστική διαμάχη
Η υπόθεση, που αναφέρεται ως JCCP 5255, αφορά μια νεαρή γυναίκα που άρχισε να χρησιμοποιεί ιστότοπους κοινωνικής δικτύωσης σε ηλικία 10 ετών και, σύμφωνα με την αγωγή, ανέπτυξε έναν "επικίνδυνο εθισμό" σε αυτούς, που συνοδεύτηκε από άγχος, κατάθλιψη, αυτοτραυματισμό και μειωμένη αυτοαντίληψη. Οι ένορκοι διαπίστωσαν ότι:
Η Meta και το YouTube γνώριζαν για τους κινδύνους του σχεδιασμού των πλατφορμών τους
οι απλοί χρήστες δεν γνώριζαν τους κινδύνους αυτούς
οι εταιρείες εξακολουθούσαν να μην τους προειδοποιούν, παρόλο που ένας "λογικός φορέας εκμετάλλευσης" θα το είχε πράξει
Η ενάγουσα και η μητέρα της επιδικάστηκαν συνολικά 6 εκατομμύρια δολάρια σε αποζημίωση και ποινική αποζημίωση. Τόσο η Meta $META όσο και η Alphabet $GOOG σχεδιάζουν να ασκήσουν έφεση, οπότε η δικαστική διαμάχη δεν έχει τελειώσει ακόμα.
Πώς οι δικηγόροι παρέκαμψαν το άρθρο 230
Για πολλά χρόνια, ο γενικός κανόνας ήταν ότι οι αγωγές κατά των ιστότοπων κοινωνικής δικτύωσης τελείωναν σε έναν τοίχο που ονομάζεται Section 230. Ο νόμος αυτός προστατεύει τις εταιρείες του διαδικτύου από την ευθύνη για το περιεχόμενο που αναρτούν οι χρήστες και τους επιτρέπει να μετριάζουν ό,τι θεωρούν επιβλαβές με "καλή πίστη". Το παραδοσιακό επιχείρημα "το περιεχόμενο της πλατφόρμας είναι επιβλαβές για τα παιδιά" έχει ως επί το πλείστον απορριφθεί γρήγορα από τα δικαστήρια.
Αυτή τη φορά, ωστόσο, οι δικηγόροι έκαναν μια στροφή: δεν κρίνουν το περιεχόμενο, αλλά τον σχεδιασμό. Στοχεύουν:
Ατελείωτη κύλιση
τα likes και άλλα σχόλια
Ειδοποίηση
αλγόριθμοι που μεγιστοποιούν τη δέσμευση
Λέει ότι πρόκειται για ενεργές σχεδιαστικές αποφάσεις, όχι για παθητική φιλοξενία του περιεχομένου κάποιου άλλου. Εάν καταστρέφει την ψυχική υγεία, το άρθρο 230 δεν εφαρμόζεται με αυτή τη λογική. Αυτή είναι η κατασκευή στην οποία στηρίζεται η ετυμηγορία.
Ελευθερία του λόγου έναντι ευθύνης αλγορίθμου
Ο επόμενος γύρος της μάχης θα αφορά τα επιχειρήματα για την ελευθερία του λόγου. Οι νομικοί εμπειρογνώμονες αναμένουν ότι η Meta και η Google θα στηρίξουν την έφεσή τους σε αυτό:
Οι αλγόριθμοι και ο τρόπος με τον οποίο ταξινομούν και εμφανίζουν περιεχόμενο
καθώς και ο σχεδιασμός της διεπαφής
αποτελούν μορφή λόγου και επομένως προστατεύονται από το Σύνταγμα.
Αν τα ανώτερα δικαστήρια που θα πουν ότι οι εταιρείες μπορούν να μηνύονται οριζόντια για τις επιλογές σχεδιασμού και αλγορίθμων, υπάρχει κίνδυνος "ψυχρού αποτελέσματος".
Είτε οι πλατφόρμες θα γίνουν πολύ πιο προσεκτικές και θα περιορίσουν τους εθιστικούς μηχανισμούς, είτε θα αρχίσουν να φιλτράρουν επιθετικά αμφιλεγόμενα θέματα για να ελαχιστοποιήσουν τον νομικό κίνδυνο - περιορίζοντας έτσι τον χώρο για διαδικτυακή συζήτηση.
Είναι πιθανό η διαμάχη να καταλήξει τελικά στο Ανώτατο Δικαστήριο, το οποίο θα πρέπει να αποφασίσει πού βρίσκεται η γραμμή μεταξύ του τεχνικού σχεδιασμού και του προστατευόμενου λόγου.
Τρεις πιθανές τροχιές
1) Η ετυμηγορία θα επικυρωθεί κατόπιν έφεσης
Εάν το Εφετείο αποφασίσει ότι:
Το άρθρο 230 εφαρμόζεται στους αλγορίθμους και τον σχεδιασμό
ή ότι η αγωγή αποτελεί ανεπίτρεπτη προσπάθεια παράκαμψης της νομοθετικής προστασίας
η ετυμηγορία δεν θα ισχύσει και το κύμα άλλων αγωγών θα αποδυναμωθεί σημαντικά. Η νομική στρατηγική "ας επιτεθούμε στο σχεδιασμό" θα χάσει τη γοητεία της και η δικαστική διαμάχη θα επανέλθει σε αποσπασματικές υποθέσεις και όχι σε μια συστημική επίθεση σε ένα επιχειρηματικό μοντέλο. Τόσο για τη Meta όσο και για την Alphabet, αυτό θα σημαίνει ότι η πίεση για τη φήμη θα παραμείνει, αλλά ο νομικός και οικονομικός κίνδυνος θα είναι διαχειρίσιμος.
2) Η ετυμηγορία θα ισχύσει, αλλά θα οδηγήσει μόνο σε σταδιακές αλλαγές
Η δεύτερη επιλογή είναι το δικαστήριο να διατηρήσει τη δυνατότητα διεκδίκησης ευθύνης για ορισμένες σχεδιαστικές επιλογές, αλλά να θέσει έναν υψηλό πήχη:
Θα απαιτηθεί σαφής απόδειξη της αιτιώδους συνάφειας μεταξύ του χαρακτηριστικού και της συγκεκριμένης βλάβης
να περιοριστεί η ευθύνη σε ακραίες περιπτώσεις
Στην πράξη, αυτό θα σήμαινε πιθανότατα:
περισσότερα χαρακτηριστικά "ευημερίας" (χρονικά όρια, διαλείμματα υπενθύμισης, ισχυρότερα εργαλεία γονικής μέριμνας)
πιο προσεκτικό χειρισμό των ειδοποιήσεων για τους εφήβους
περισσότερη διαφάνεια γύρω από τους αλγόριθμους
Το επιχειρηματικό μοντέλο που βασίζεται στην ενσυνειδητότητα θα παραμείνει στον πυρήνα, αλλά οι εταιρείες θα πρέπει να υπολογίζουν το συνεχές νομικό κόστος και το κόστος συμμόρφωσης.
3) Η ετυμηγορία θα δημιουργήσει προηγούμενο για μια χιονοστιβάδα αγωγών
Το πιο σκληρό σενάριο έρχεται αν ανώτερα δικαστήρια το επικυρώσουν:
Το άρθρο 230 δεν εφαρμόζεται στον σχεδιασμό
οι εταιρείες μπορούν να θεωρηθούν υπεύθυνες για την "εθιστικότητα" του προϊόντος τους
και το Κογκρέσο δεν αποφασίσει να τροποποιήσει τον νόμο υπέρ των πλατφορμών.
Αποτέλεσμα:
Χιλιάδες παρόμοιες αγωγές από γονείς, σχολεία και πολιτείες
Πίεση από τους επενδυτές να τροποποιήσουν τα προϊόντα ώστε να μειωθεί ο κίνδυνος εθισμού (ακόμη και με κόστος τη χαμηλότερη δέσμευση)
Πραγματικές παρεμβάσεις στους αλγορίθμους και το UX - περιορισμός της άπειρης κύλισης, διαφορετικές προεπιλεγμένες ρυθμίσεις για ανηλίκους
Οι τεχνολογικές πλατφόρμες θα αρχίσουν νομικά να προσεγγίζουν τα "ρυθμιζόμενα προϊόντα" όπως ο καπνός ή τα τυχερά παιχνίδια. Αυτό θα είχε σημαντικό αντίκτυπο στις αποτιμήσεις των εταιρειών, στους πολλαπλασιαστές ανάπτυξης και στην αναμενόμενη κερδοφορία.
Παγκόσμια πίεση: από την Αυστραλία έως τη Βραζιλία
Η δίκη στο Λος Άντζελες δεν αποτελεί μεμονωμένο γεγονός. Αυστηρότεροι κανόνες εμφανίζονται ήδη σε άλλες χώρες:
Η Αυστραλία απαγόρευσε τη χρήση των ιστότοπων κοινωνικής δικτύωσης από παιδιά κάτω των 16 ετών.
Η Βραζιλία απαγόρευσε τις δυνατότητες απεριόριστης κύλισης για ορισμένες ομάδες χρηστών.
Άλλες χώρες αναπτύσσουν έναν συνδυασμό ηλικιακών ορίων, υποχρεωτικών χαρακτηριστικών "ασφάλειας από τον σχεδιασμό" και δοκιμών επιπτώσεων στην ψυχική υγεία.
Αυτό εγείρει ένα νέο ζήτημα: πώς θα επαληθεύεται η ηλικία στην πράξη; Χωρίς κάποια μορφή ταυτοποίησης (π.χ. κρατικά ή ιδιωτικά συστήματα ταυτοποίησης), οι νόμοι είναι δύσκολο να εφαρμοστούν. Αυτό δημιουργεί ανησυχίες για την προστασία της ιδιωτικής ζωής και τον κίνδυνο λανθασμένης ταυτοποίησης, όπου οι ενήλικες θα πέσουν λανθασμένα σε "παιδική κατάσταση" και θα πρέπει να αποδείξουν την ηλικία τους.
Τι να καταλάβουμε από αυτό
Η ετυμηγορία κατά της Meta και της Google δεν αποτελεί ακόμη επανάσταση, αλλά είναι το πρώτο σοβαρό τράβηγμα στο σωσίβιο του ψηφιακού μοντέλου "όσο περισσότερος χρόνος στο διαδίκτυο τόσο το καλύτερο". Οι αποφάσεις θα ληφθούν τα επόμενα χρόνια:
Αν οι αλγόριθμοι και ο σχεδιασμός θα παραμείνουν νομικά προστατευμένοι όπως το περιεχόμενο ή αν θα γίνει ένας τομέας όπου οι εταιρείες θα θεωρηθούν ειδικά υπεύθυνες για τις επιπτώσεις στην υγεία των χρηστών, ιδίως των παιδιών και των εφήβων.