Circa una settimana prima che il luminare della privacy e della tecnologia Peter Eckersley morisse inaspettatamente lo scorso settembre, ha contattato l’imprenditore di intelligenza artificiale Deger Turan. Eckersley voleva convincere Turan a essere il presidente dell’ingegno di Eckersley, un nuovo istituto che mirava a fare niente di meno ambizioso dell’evoluzione dell’IA corretta per salvaguardare il futuro dell’umanità.
Eckersley ha spiegato che non poteva gestire questo progetto da solo: aveva gravi problemi di salute a causa di un cancro al colon e la co-fondatrice dell’organizzazione, Brittney Gallagher, era molto incinta e stava per andare in congedo di maternità. Ma Turan non sarebbe stato solo, gli assicurò Eckersley: non appena la sua malattia fosse stata risolta, sarebbe tornato per servire come capo scienziato del gruppo. Hanno deciso di incontrarsi a San Francisco pochi giorni dopo per elaborare un piano.
Quando l’aereo di Turan è atterrato a San Francisco, Eckersley era morto, una tragedia che ha inviato onde d’urto ancora risonanti attraverso i suoi amici, la famiglia e il mondo della tecnologia. Invece di un incontro con Eckersley per redigere la tabella di marcia dell’istituto, Turan si ritrovò a partecipare al funerale del suo amico.
Nei giorni precedenti, pur aspettandosi ancora di riprendersi, Eckersley aveva già detto al consiglio della sua nascente organizzazione, l’AI Objectives Institute, o AOI, che Turan ne sarebbe stato il presidente. Il 44enne tecnologo e attivista aveva anche scritto un testamento approssimativo e incompleto in Google Docs, nell’improbabile eventualità della sua morte. Ha iniziato nominando AOI come l’erede di tutti i suoi beni con sede negli Stati Uniti. “Abbiamo iniziato qualcosa di importante”, ha scritto Eckersley. “Vorrei vedere se le persone coinvolte potrebbero andare un po’ oltre.”
Turan non aveva mai avuto la possibilità di dire a Eckersley che aveva accettato la sua richiesta. Ma non appena ha saputo della morte di Eckersley, ha capito che il ruolo in AOI non era solo il lavoro più importante che potesse svolgere, ma anche un modo per contribuire a stabilire un pilastro centrale dell’eredità del suo amico. “Quindi ho detto di sì”, dice Turan. “Facciamolo, non un po’ più in là, ma fino in fondo.”
Peter Eckersley durante un giro serale in bicicletta a San Francisco nel 2021.
Fotografia: Laura Helen Winn
Ieri, centinaia di membri della comunità di amici e colleghi di Eckersley hanno affollato i banchi per un insolito tipo di servizio commemorativo presso il santuario simile a una chiesa dell’Internet Archive di San Francisco, un simposio con una serie di discorsi dedicati non solo ai ricordi di Eckersley come persona ma un tour del lavoro della sua vita. Di fronte a un santuario dedicato a Eckersley in fondo alla sala, pieno dei suoi scritti, della sua amata bici da strada e di alcuni campioni del suo guardaroba punk gotico vittoriano, Turan, Gallagher e altri 10 relatori hanno presentato la lunga lista di contributi di Eckersley: i suoi anni spingendo la Silicon Valley verso migliori tecnologie per la tutela della privacy, la sua co-fondazione di un progetto rivoluzionario per crittografare l’intero web e il suo perno in tarda età per migliorare la sicurezza e l’etica dell’IA.
L’evento è servito anche come una sorta di soft launch per AOI, l’organizzazione che ora porterà avanti il lavoro di Eckersley dopo la sua morte. Eckersley immaginava l’istituto come un incubatore e un laboratorio applicato che avrebbe lavorato con i principali laboratori di intelligenza artificiale per affrontare il problema che Eckersley era arrivato a credere fosse, forse, anche più importante del lavoro sulla privacy e sulla sicurezza informatica a cui aveva dedicato decenni del suo carriera: reindirizzare il futuro dell’intelligenza artificiale lontano dalle forze che causano sofferenza nel mondo, verso ciò che ha descritto come “fioritura umana”.
“Dobbiamo rendere l’IA non solo ciò che siamo, ma ciò che aspiriamo ad essere”, ha detto Turan nel suo discorso all’evento commemorativo, dopo aver riprodotto una registrazione della telefonata in cui Eckersley lo aveva reclutato. “Quindi può sollevarci in quella direzione.”
La missione che Eckersley ha concepito per AOI è emersa da una crescente sensazione nell’ultimo decennio che l’IA abbia un “problema di allineamento”: che la sua evoluzione stia avanzando a un ritmo sempre più rapido, ma con obiettivi semplicistici che non sono al passo con quelli di la salute e la felicità dell’umanità. Invece di inaugurare un paradiso di sovrabbondanza e svago creativo per tutti, Eckersley riteneva che, nella sua traiettoria attuale, l’IA avrebbe molte più probabilità di amplificare tutte le forze che stanno già distruggendo il mondo: distruzione ambientale, sfruttamento dei poveri e dilagante nazionalismo, per citarne alcuni.
L’obiettivo di AOI, come lo descrivono Turan e Gallagher, non è cercare di frenare il progresso dell’IA, ma di guidarne obiettivi lontano da quelle forze risolute e distruttive. Sostengono che sia la migliore speranza dell’umanità di prevenire, ad esempio, software iperintelligenti che possono fare il lavaggio del cervello agli esseri umani attraverso la pubblicità o la propaganda, società con strategie e poteri divini per raccogliere fino all’ultimo idrocarburo dalla terra o sistemi di hacking automatizzati che possono penetrare in qualsiasi rete in il mondo per causare caos globale. “I fallimenti dell’IA non sembreranno nanobot che ci strisciano addosso all’improvviso”, afferma Turan. “Si tratta di disastri economici e ambientali che sembreranno molto riconoscibili, simili alle cose che stanno accadendo in questo momento”.
Gallagher, ora direttore esecutivo di AOI, sottolinea che la visione di Eckersley per l’istituto non era quella di una Cassandra spaventosa, ma di un pastore che potesse guidare l’IA verso i suoi sogni idealistici per il futuro. “Non ha mai pensato a come prevenire una distopia. Il suo modo di pensare eternamente ottimista era: ‘come realizziamo l’utopia?’”, dice. “Cosa possiamo fare per costruire un mondo migliore e come può l’intelligenza artificiale lavorare per la prosperità umana?”
A tal fine, AOI sta già lavorando a una manciata di progetti di esempio per spingere l’IA su quel percorso, ora con l’aiuto di nove contributori principali e una manciata di sovvenzioni tra cui $ 485.000 dal fondo Survival and Flourishing. Il progetto pilota più avanti, chiamato “Parla con la città”, è progettato per utilizzare un’interfaccia simile a ChatGPT per sondare milioni di persone in una città sia per comprendere le loro esigenze sia per sostenerle nelle discussioni con responsabili politici, giornalisti e altri cittadini. Turan descrive l’esperimento come uno strumento per l’organizzazione collettiva e per i governi, consentendo una forma di democrazia più sfumata delle semplici elezioni o referendum. Dice che i beta tester interessati al progetto includono tutti, dagli organizzatori di Black Rocky City di Burning Man ai membri dello staff delle Nazioni Unite.
Un altro prototipo, chiamato “Mindful Mirror”, servirà come una sorta di diario interattivo personale, un chatbot che conversa con il suo utente per aiutarlo a elaborare gli eventi della sua vita quotidiana. Un terzo, chiamato “Lucid Lens”, funzionerà come un plug-in del browser che evidenzia i contenuti che rileva come progettati per causare indignazione o “loop dopaminergici” che manipolano gli utenti in modi di cui preferirebbero essere consapevoli o evitare.
Quei progetti iniziali potrebbero sembrare modesti rispetto agli alti obiettivi futuristi di AOI. Ma la storia della lunga e rinomata carriera di Eckersley nella sicurezza informatica e nella privacy è stata quella della creazione di strumenti dal suono altrettanto semplice che potessero fungere da leve per effettuare profondi cambiamenti. Lavorando per la Electronic Frontier Foundation (EFF) per una dozzina di anni, alla fine come capo scienziato, Eckersley ha contribuito a costruire progetti come Tasso della privacyun plug-in del browser per bloccare i web tracker e HTTPS ovunque, un altro plug-in che consente al browser di navigare verso la versione crittografata HTTPS di un sito Web quando possibile. Ha co-creato il Osservatorio SSL, che ha scansionato l’intera Internet per determinare quanto di essa fosse crittografata. Un altro progetto Eckersley, un sito chiamato Panopticlick, ha controllato la protezione del browser di un utente contro il tracciamento. E gli EFF Scorecard per la messaggistica sicura ha valutato le app di messaggistica in base alle loro funzionalità di privacy e sicurezza, contribuendo a inaugurare un mondo in cui miliardi di messaggi degli utenti di WhatsApp sono crittografati end-to-end per impostazione predefinita.
“Il suo genio è stato trovare il piccolo trucco che avrebbe aperto una grande storia”, ha detto il direttore esecutivo di EFF Cindy Cohen nel suo discorso al funerale di Eckersley. “La dimostrazione che avrebbe reso manifesto ciò che le persone avevano bisogno di vedere su come funzionava la tecnologia”.
Forse l’opera più celebrata di Eckersley è stata la sua cofondazione di Criptiamo, un’alternativa gratuita alle società di autorità di certificazione che consentono ai proprietari di siti Web di utilizzare la crittografia HTTPS. Rimuovendo un ostacolo chiave all’attivazione della crittografia di un sito, Let’s Encrypt ha trasformato in modo significativo il Web: finora Let’s Encrypt ha rilasciato certificati gratuiti a oltre 300 milioni di siti Web. Oggi, più del 90% del Web è crittografato, rispetto a meno del 40% stimato quando Let’s Encrypt è stato lanciato nel 2015. “Dobbiamo ringraziare Peter Eckersley per questo”, ha detto il co-fondatore di Let’s Encrypt, Alex Halderman, al memoriale di Eckersley.
Anche se Eckersley era nel bel mezzo del lancio di quei progetti influenti, stava già pensando a un’area tecnologica completamente diversa in cui sentiva di poter avere un impatto ancora maggiore a lungo termine. Nel 2013, Eckersley stava parlando con scienziati informatici come Anders Sandberg, Stuart Russell e Nick Bostrom che erano concentrati sul “rischio di civiltà” dell’IA, afferma Brian Christian, scienziato e autore dei libri incentrati sull’IA L’essere umano più umano E Algoritmi per viveree che ha servito come maestro di cerimonie per l’evento commemorativo di Eckersley.
Quando ha lasciato l’EFF nel 2018, dice Christian, Eckersley aveva deciso che era giunto il momento di concentrare nuovamente i suoi sforzi sul plasmare il futuro dell’IA. “Ha visto che ha una posta in gioco più alta, in un certo senso”, dice Christian. “Alla fine ha finito per concludere che la gravità dell’IA, anche nei suoi danni più ipotetici, era così grande da sembrare urgente, che era la cosa più importante per lui”. Christian afferma che Eckersley è stato così persuasivo riguardo all’entità del problema che ha trasformato anche il pensiero di Christian sul futuro dell’IA. Ha dedicato il suo libro del 2020 all’argomento, Il problema dell’allineamento“a Pietro, che mi ha convinto”.
La sorella di Eckersley, Nicole, che ha tenuto il discorso finale della serata, ha detto di aver iniziato a sentire da suo fratello la sua visione di qualcosa come AOI nel 2020. E anche quando la sua salute ha improvvisamente subito un precipitoso declino alla fine dell’estate del 2022, l’istituto è rimasto il suo obiettivo. “Anche dal suo letto d’ospedale, stava caricando a tutta velocità su AOI. Tutti i suoi ultimi desideri e istruzioni riguardavano la sopravvivenza di questo progetto incredibilmente importante”, ha detto. “Vogliamo vedere realizzati i piani di Peter. Vogliamo rimanere in contatto con questa incredibile comunità. Vogliamo impedire ai robot di mangiarci e di buttare via i soldi”.
“Quindi spero che lo vedrete tutti non solo come un memoriale”, ha concluso, “ma come l’inizio di un’incredibile eredità vivente”.
