Center for Humane Technology: una proposta etica

Home / Blog / Design / Center for Humane Technology: una proposta etica23 Ottobre 2020Center for Humane Technology: una proposta etica

Nella temperie comunicativa che abbiamo delineato nel nostro precedente articolo, il “Center for Humane Technology” sembra offrire alcune prospettive più rassicuranti o almeno delle soluzioni su cui riflettere per cambiare l’impatto della tecnologia sulla vita delle persone.

Il CHT nasce dall’impegno di tre figure dai profili professionali interessantissimi: Tristan Harris, che fino al 2015 lavorava da Google come Design Ethicist, Aza Raskin, matematico con esperienza lavorativa da Mozilla Corporation, e Randima Fernando, technologist e sociologo.

L’idea iniziale di fondare il centro è di Tristan Harris, che è diventato il principale portavoce dell’operato del CHT e del programma etico applicato al mondo tech. Nelle numerose interviste rilasciate in questi anni, Harris spesso sull’importanza della sua formazione allo Stanford Persuasive Technology Lab, come momento cruciale per riflettere sulla fallibilità e sui limiti della natura umana. Al Persuasive Technology Lab ha approfondito lo studio delle tecniche attraverso le quali si può influenzare e persuadere la mente umana attraverso la tecnologia.

Proprio durante la sua esperienza lavorativa da Google, ha avuto dei seri dubbi sull’impatto della tecnologia sulla società. Gli sembrava chiaro che il business model di imprese come Google, Twitter e Facebook fosse indirizzato a mantenere più tempo possibile l’utente connesso alle loro piattaforme. Venivano progettate alcune strategie con estrema attenzione ai principi di UX e UI (user experience e user interface), quali notifiche, refresh dei contenuti, mi piace, consigliati, solo per citare gli strumenti più noti e visibili.

Nel 2013, Harris decide di condividere le sue preoccupazioni con i suoi colleghi di Google attraverso la presentazione A Call to Minimize Distraction and Respect Users’ Attention, che segna anche il primo passo dell’attività del CHT. In una delle prime slide si legge: “Never before in history have the decisions of a handful of designers (mostly men, white, living in SF, aged 25-35) working at three companies (Facebook, Google and Apple) had so much impact on how millions of people around the world spend their attention. We should feel an enormous responsibility to get this right!”. Un grido d’allarme che proveniva dall’interno di un sistema ristretto e potente, che stava sviluppando al suo interno la capacità di cambiare lo stile di vita di miliardi di persone.

Gli effetti negativi, non sempre desiderati dagli algoritmi, erano: diffusione delle fake news, salute mentale, solitudine, dipendenza e riduzione dell’abilità di concentrarsi. Secondo i dati del 2013, solo in quell’anno Google ha progettato più di 11 miliardi di interruzioni nelle vite delle persone ogni giorno (Harris, 2013). La soluzione che proponeva Harris era quella di una rivoluzione del design di Google che avesse come obiettivo la qualità e la salute del tempo delle persone. “We can design to reduce the volume and frequency of interruptions. We can design to be respectful about when to notify users – let it wait unless it’s important. We can design to keep users focused, by putting temptations further away when they’re trying to accomplish goals. […] We could have a team to standardize our design ethics and define best practices to minimize distraction.”

Secondo Harris, tale cambiamento è possibile solo se prima si comprendono tre punti fondamentali:

  • gli esseri umani hanno determinate vulnerabilità
  • tali vulnerabilità possono essere amplificate e sfruttate
  • il design del prodotto, per com’è allo stato attuale, sfrutta queste vulnerabilità e fa sì che le persone agiscano in maniera impulsiva.

L’attività del CHT

Il Center for Humane Technology attualmente si occupa di diffondere consapevolezza sulla questione della tecnologia per costruire un discorso e delle linee guida per il cambiamento tecnologico. La divulgazione delle ricerche e degli studi avviene attraverso documenti e incontri.

Gli incontri, che si svolgono principalmente negli Stati Uniti, si rivolgono a cittadini comuni ma anche a studenti, educatori e insegnanti, fino ad arrivare a creare consapevolezza tra gli esperti di tecnologia e i politici e gli investitori. Ognuno dei quali prende parte all’azione di cambiamento secondo le proprie capacità e disponibilità. Se l’obiettivo, infatti, è quello di cambiare la mentalità con la quale si costruiscono e si fruiscono i social media, allora sarà necessario il contributo di tutti. Sul sito del centro, sono disponibili molte risorse e consigli divisi per professione o ruolo sociale.  Recentemente, ad esempio, è stata rilasciata una guida per aiutare i genitori a gestire il rapporto tra i loro figli e i dispositivi digitali nel periodo della pandemia.

Nello specifico il lavoro del CHT si orienta in tre direzioni principali:

  • Educare il pubblico: far luce sui danni causati dalle piattaforme dei social media agli individui e alla società con l’obiettivo di creare una pressione dei clienti che richieda prodotti maggiormente indirizzati alle reali necessità umane. Tra le risorse messe a disposizioni si trovano: le ultime notizie, presentazioni e interviste del CHT, alcuni documenti fondamentali per comprendere l’impatto della tecnologia e infine un Podcast, Your Undivided Attention, che approfondisce alcune tematiche con interventi esterni.
  • Supporto informativo alle politiche pubbliche: incontri pubblici e privati con i responsabili politici per supportare la creazione di una architettura giuridica e un indirizzo politico che punti ad una maggiore protezione dei cittadini nella sfera dell’informazione.
  • Sostegno agli esperti di tecnologia: strumenti pratici alle aziende tech che permettano di attuare un cambiamento a livello culturale e nel design delle nuove tecnologie. A questo proposito sul sito sono presenti è alcune risorse per la progettazione come ad esempio una worksheet per lo sviluppo di un progetto eticamente orientato o un corso da seguire online.

New agenda for Technology, 2019

Nell’aprile del 2019 Harris ha tenuto una conferenza sullo stato attuale dello sviluppo tecnologico, dopo sei anni di attività del CHT. Sebbene l’analisi sul rapporto società-tecnologia sia piuttosto approfondito, forse la parte propositiva poteva essere sviluppata più nel dettaglio e più concretamente. La meta a cui tendere è sempre la stessa: costruire una infrastruttura tecnologica che possa tenere conto delle necessità umane senza stravolgere le vite delle persone, le loro abitudini e le loro posizioni politiche.

In un’intervista rilasciata al New York Times, Harris aveva affermato che per creare “humane technology, we need to think deeply about human nature, and that means more than just talking about privacy”. Riflettere sulla natura umana vuol dire costruire un concerto di diverse discipline che possano rendere conto delle fragilità della mente umana e delle strategie per rispettarle: oltre all’informatica e il design, anche la sociologia, la psicologia, la filosofia.

Per iniziare una riflessione che si muova in questa direzione, Harris spesso cita un’altra frase che mette in luce la disparità tra le nostre capacità intellettive e il potere della tecnologia: “Abbiamo emozioni paleolitiche, istituzioni medievali e tecnologia a sembianza di Dio” (Wilson). Si comprende che non può esistere una rivoluzione tecnologica che non tenga in seria considerazione lo stato dell’essere umano.

Sono tre le cause che hanno portato a quello che Harris definisce human downgrading (recessione delle capacità umane):

  • Sistemi sociali artificiali: cambiamento della percezione delle relazioni sociali e della propria immagine.
  • Intelligenza Artificiale: un algoritmo che sfrutta le debolezze umane non per migliorare l’esperienza online ma per aumentare il profitto.
  • Extractive attention economy: l’obiettivo è far rimanere l’utente connesso sulla piattaforma, ma non ha valore la qualità del tempo trascorso in rete. Gravi ripercussioni sulla capacità di concentrarci: ci auto-interrompiamo ogni 40 secondi (Harris, 2019).

L’agenda del CHT propone, allora, un cambiamento strutturale. Partendo da una migliore comprensione del modo in cui gli esseri umani funzionano sia in gruppo che in solitudine, si può progettare una nuova infrastruttura che incentivi le aziende a competere sui problemi realmente importanti, premiando strategie che assicurino interazioni positive. La transizione etica cambierà anche il modello di business di queste aziende: dalla profilazione degli utenti a fini pubblicitari alle membership di iscrizione alla piattaforma. Bisogna chiedersi quanto gli utenti saranno disposti a rinunciare alla libertà d’accesso (free membership) dei social network come Facebook e Twitter per preservare la loro salute psicologia, memori del monito  “Se non stai pagando, sei tu il prodotto”.

La proposta di Harris appare ottima nelle intenzioni e nelle finalità, ma e tutta da valutare nelle sue applicazioni concrete. Ci si chiede anche quanto queste enormi multinazionali, decisamente orientate al profitto e con degli investitori a cui rendere conto, potranno cambiare così profondamente il loro approccio e modello di business.

 

Per approfondire

CHT > Policy Principles

CHT > Ledger of Harms

Podcast > Your Undivided Attention

 

cover image credit: The Met (Object 6620// Accession: 1980.502.53)



Copyright © Yatta! 2020. All rights reserved.

SEGUICI SU

YATTA!
viale Pasubio, 14
20154 - Milano
02 87075740

condividi