Un appello a rimanere vigili

This is an Italian translation of Call to Vigilance

Versione audio disponibile in inglese su Cold Takes (o su Stitcher, Spotify, Google Podcasts, ecc. come “Cold Takes Audio”)

Questo è l’ultimo articolo della serie sul “secolo più importante”, in cui si discute l’alta probabilità^[1] che nei prossimi decenni vedremo:

• Lo sviluppo di tecnologie come i sistemi PASTA (Process for Automating Scientific and Technological Advancement, Processo di Avanzamento Scientifico e Tecnologico Automatizzato).
• Un conseguente boom di produttività che porterà allo sviluppo di ulteriori tecnologie trasformanti.
• Le prime avvisaglie di una civiltà spaziale stabile, forse con la presenza di persone digitali o forse governata da un’IA non allineata.

Nel cercare di attirare l’attenzione su un problema sottovalutato, spesso si conclude con una “chiamata all’azione”: un’azione concreta e tangibile, che il lettore può intraprendere per dare una mano.

Questo pone delle sfide, perché, come ho illustrato in precedenza, c’è un grande dibattito attorno a quali azioni sono utili e quali sono dannose. (Anche se è possibile individuare alcune azioni che sembrano robustamente utili al momento).

Cosa che può essere un po’ imbarazzante. Quando rifletto sulla teoria del “secolo più importante”, il mio atteggiamento non rispecchia i soliti di “entusiasmo e movimento” o “paura ed evitamento”. Al contrario, provo uno strano amalgama di intensità, urgenza, confusione ed esitazione. Ho davanti a me qualcosa che supera in portata ogni mia precedente aspettativa, e per questo non mi sento abbastanza qualificato e non ho idea di quale possa essere la prossima mossa. Non è facile condividere e diffondere questo stato mentale, ma ci sto provando.

Per cui, invece di una chiamata all’azione, voglio fare un appello a rimanere vigili. Se le argomentazioni di questo articolo ti sembrano convincenti, allora non lanciarti a “fare qualcosa” per poi passare oltre. Piuttosto, concentrati sulle azioni robustamente utili che puoi fare oggi o comunque fai in modo di essere pronto ad agire in maniera significativa quando sarà il momento. Il che può voler dire:

• Fare in modo di interagire e imparare di più su argomenti/ambiti/settori fondamentali come le IA (per ovvi motivi), scienza e tecnologia in generale (dal momento che buona parte della teoria del “secolo più importante” prevede rapidi progressi in campo scientifico e tecnologico) e i settori pertinenti di sicurezza nazionale e di normative.
• Cogliere le occasioni (quando le vedi) di indirizzare la tua carriera in direzioni che più probabilmente saranno importanti (ne ho scritto qui; vedi anche 80,000 Hours).
• Entrare in contatto con altre persone interessate a questi argomenti (penso che questa sia stata la ragione principale che ha portato diverse persone a fare lavori ad alto impatto in passato). Allo stato attuale, penso che la comunità dell’altruismo efficace sia il luogo migliore; attraverso il Centre for Effective Altruism potete scoprire come entrare in contatto con altre persone (dal menù a tendina “Get Involved”). È probabile che posterò su Cold Takes nuovi modi per entrare in contatto con le persone se ne emergeranno in futuro.
• E ovviamente, non lasciarsi sfuggire nessuna occasione per fare azioni robustamente utili.

Tasti da premere

Ecco qualcosa che puoi fare immediatamente e che sarebbe utile, anche se forse non soddisfacente quanto firmare una petizione o fare una donazione.

Nel mio lavoro ci sono molti momenti in cui io o qualcuno con cui lavoro stiamo cercando un tipo di persona in particolare (magari perché c’è una posizione lavorativa aperta per un beneficiario, o perché abbiamo bisogno di determinate competenze in un certo ambito, o altro ancora). Mi aspetto che col tempo persone con specifiche abilità, interessi, competenze, ecc., avranno sempre più occasioni per intraprendere azioni che trarranno il massimo beneficio dal secolo più importante. Penso anche che una delle sfide principali sia semplicemente sapere chi è disponibile – chi è interessato alla causa e vuole essere d’aiuto e quali sono i suoi interessi e le sue capacità.

Se sei una di quelle persone che potremmo voler incontrare in futuro, puoi aiutarci già adesso inviandoci i tuoi dati attraverso questo semplice modulo. Ti garantisco che i tuoi dati non verranno venduti o usati per fare soldi in qualche altro modo, che le tue preferenze di contatto (discusse nel dettaglio nel modulo) verranno rispettate e che potrai decidere di interrompere le comunicazioni con noi in qualsiasi momento.

Uno spazio mentale condiviso

In This Can’t Go On [Tempi Eccezionali], paragonavo il mondo alle persone a bordo di un aereo che sfreccia sulla pista di decollo e che non hanno modo di sapere perché si stanno muovendo così velocemente o cosa succederà dopo:

Dal momento che sono anch’io a bordo dell’aereo, mi piacerebbe molto poter dire che ho capito esattamente cosa stia succedendo e in che modo dobbiamo prepararci per il futuro. Ma purtroppo non è così.

In mancanza di risposte, ho cercato di descrivere quello che vedo io:

• Immagini sfocate degli eventi (passati e futuri) più importanti per l’umanità.
• L’impressione che questi eventi si stiano avvicinando molto più in fretta di quel che sembra, a prescindere che noi siamo pronti o meno.
• La sensazione di non poter fare affidamento sul mondo e le regole a cui siamo abituati. La sensazione di dover distogliere lo sguardo dal fiume quotidiano di notizie tangibili e condivisibili e cercare di comprendere concetti più strani e più assurdi a proposito di quest’epoca, concetti che probabilmente vedremo come i più importanti di quest’epoca a miliardi di anni di distanza.

Ci sono un sacco di cose che non so, ma se questo è il secolo più importante, mi sento sicuro nell’affermare che la nostra civiltà non è ancora pronta per le sfide che dovrà affrontare.

Se vogliamo che questa situazione cambi, è necessario che più persone la vedano per quello che è davvero, che la prendano sul serio e agiscano quando ne hanno l’opportunità – e quando questa opportunità non c’è, che rimangano vigili.

1. ^{^}

   “Prevendo con una probabilità maggiore del 10% che un’IA trasformativa verrà sviluppata nei prossimi 15 anni (quindi entro il 2036); con una probabilità del ~50% che verrà sviluppata nei prossimi 40 anni (entro il 2060); e con una probabilità di ~⅔ che verrà sviluppata questo secolo (entro il 2100).”