Gabinetto degli orrori

L'ascesa delle macchine e la presa del potere da parte dell'intelligenza artificiale. Un mondo di totale sorveglianza e controllo sociale. Guerra nucleare e degenerazione della civiltà. Molte visioni oscure del futuro, disegnate molti anni fa, sarebbero dovute accadere oggi. E intanto ci guardiamo indietro e sembra che non ci fossero. Sei sicuro?

C'è un repertorio abbastanza stereotipato del popolare profezie distopiche (sulla visione nera del futuro). Oltre a quelle più comuni associate alla distruzione dell'ambiente naturale e delle risorse, è opinione diffusa che le ultime tecnologie stiano danneggiando la comunicazione interpersonale, le relazioni e la società.

Lo spazio virtuale sostituirà ingannevolmente la partecipazione reale al mondo. Altre visioni distopiche vedono lo sviluppo tecnologico come un modo per aumentare la disuguaglianza sociale, concentrando potere e ricchezza nelle mani di piccoli gruppi. Le elevate esigenze della tecnologia moderna concentrano conoscenze e abilità in circoli ristretti di individui privilegiati, aumentano la sorveglianza delle persone e distruggono la privacy.

Secondo molti futuristi, una maggiore produttività e una maggiore scelta visibile possono danneggiare la qualità della vita umana causando stress, mettendo in pericolo i posti di lavoro e rendendoci sempre più materialisti riguardo al mondo.

Uno dei famosi "distopici" tecnologici, James Gleick, fornisce un esempio apparentemente banale di telecomando TV come una classica invenzione che non risolve un solo problema significativo, dando vita a molti nuovi. Gleick, citando uno storico della tecnica Edoardo Tenner, scrive che la possibilità e la semplicità di cambiare canale utilizzando il telecomando serve principalmente a distrarre sempre di più lo spettatore.

Invece della soddisfazione, le persone sono sempre più insoddisfatte dei canali che guardano. Invece della soddisfazione dei bisogni, c'è una sensazione di infinita delusione.

Le auto ci terranno sulle prenotazioni?

Riusciremo a controllare questa cosa che è inevitabile e che probabilmente arriverà presto? Oltre l'intelligenza artificiale? Se questo deve essere il caso, come proclamano molte visioni distopiche, allora no. (1).

È difficile controllare qualcosa che è molte volte più forte di noi. con un aumento del numero di compiti. Vent'anni fa, nessuno avrebbe creduto di poter leggere le emozioni nella voce di una persona e affrontarle in modo molto più accurato di quanto possiamo noi stessi. Nel frattempo, gli algoritmi attualmente addestrati sono già in grado di farlo, analizzando le espressioni facciali, il timbro e il modo in cui parliamo.

I computer disegnano immagini, compongono musica e uno di loro ha persino vinto un concorso di poesia in Giappone. Hanno battuto le persone negli scacchi per molto tempo, imparando il gioco da zero. Lo stesso vale per il gioco molto più complesso di Go.

obbedisce alle leggi di un'accelerazione sempre più rapida. Ciò che l'IA ha ottenuto - con l'aiuto degli esseri umani - negli ultimi decenni raddoppierà nei prossimi anni, forse solo pochi mesi, e poi ci vorranno solo settimane, giorni, secondi...

Come si è scoperto di recente, gli algoritmi utilizzati negli smartphone o negli aeroporti per analizzare le foto di fotocamere onnipresenti non solo possono riconoscere qualcuno in fotogrammi diversi, ma anche determinare caratteristiche psicologiche esclusivamente intime. Dire che questo è un enorme rischio per la privacy è come non dire nulla. Non si tratta di semplice sorveglianza, di osservazione di ogni passo, ma di informazioni che derivano dall'aspetto stesso di una persona, dai suoi desideri nascosti e dalle sue preferenze personali. 

Gli algoritmi possono impararlo in modo relativamente rapido analizzando centinaia di migliaia di casi, che è molto più di quanto anche la persona più astuta possa vedere in una vita. Armati di una tale ricchezza di esperienza, sono in grado di scansionare una persona in modo più accurato anche dello psicologo, del linguaggio del corpo e dell'analista gestuale più esperto.

Quindi la vera distopia agghiacciante non è che i computer giochino a scacchi o ci vadano contro, ma che possano vedere la nostra anima più in profondità di chiunque altro oltre a noi stessi, piena di divieti e blocchi nel riconoscere quelle o altre inclinazioni.

Элон Маск ritiene che quando i sistemi di intelligenza artificiale inizieranno ad apprendere e ragionare su scala sempre crescente, l'"intelligenza" potrebbe svilupparsi da qualche parte in profondità negli strati web, per noi impercettibile.

Secondo uno studio americano pubblicato nel 2016, nei prossimi 45 anni, l'intelligenza artificiale ha una probabilità del 50% di superare gli esseri umani in tutti i compiti. I meteorologi dicono che sì, l'IA risolverà il problema del cancro, migliorerà e accelererà l'economia, fornirà intrattenimento, migliorerà la qualità e la durata della vita, ci educherà in modo che non possiamo vivere senza di essa, ma è possibile che un giorno, senza l'odio, solo perché basato su un calcolo logico, ci rimuove. Forse fisicamente non funzionerà, perché in ogni sistema vale la pena salvare, archiviare e archiviare risorse che "potrebbero tornare utili un giorno". Sì, questa è la risorsa che possiamo essere per l'IA. Manodopera protetta?

Gli ottimisti si consolano con il fatto che c'è sempre la possibilità di staccare la spina dalla presa. Tuttavia, non tutto è così semplice. La vita umana è già diventata così dipendente dai computer che un passo radicale contro di loro sarebbe un disastro per noi.

Dopotutto, stiamo creando sempre più sistemi decisionali basati sull'intelligenza artificiale, dando loro il diritto di pilotare aerei, fissare tassi di interesse, far funzionare centrali elettriche: sappiamo che gli algoritmi lo faranno molto meglio di noi. Allo stesso tempo, non comprendiamo appieno come vengono prese queste decisioni digitali.

Si teme che i sistemi di comando super intelligenti come "Ridurre la congestione" possano portarli a concludere che l'unico modo efficace per portare a termine il lavoro è... ridurre la popolazione di un terzo o addirittura della metà.

Sì, vale la pena dare alla macchina le istruzioni più importanti come "Prima di tutto, salva una vita umana!". Chissà però se poi la logica digitale porterà alla reclusione dell'umanità o sotto la stalla, dove potremmo essere al sicuro, ma non certo libero.

La criminalità informatica come servizio

In passato, le distopie e le immagini del mondo post-apocalittico nella letteratura e nel cinema erano solitamente ambientate nell'era post-nucleare. Oggi l'annientamento nucleare non sembra necessario per la catastrofe e la distruzione del mondo come lo conosciamo, anche se non nel modo in cui lo immaginiamo. , è improbabile che distrugga il mondo come in "Terminator", dove è stato combinato con l'annientamento nucleare. Se lo facesse, non sarebbe una superintelligenza, ma una forza primitiva. Dopotutto, anche l'umanità non ha ancora realizzato lo scenario globale di un devastante conflitto nucleare.

Una vera apocalisse di macchine può essere molto meno impressionante.

La guerra informatica, gli attacchi di virus, l'hacking del sistema e il ransomware, il ransomware (2) paralizzano e distruggono il nostro mondo non meno efficacemente delle bombe. Se la loro scala si espande, potremmo entrare in una fase di guerra totale a tutto campo in cui diventeremo vittime e ostaggi delle macchine, anche se non è necessario che agiscano in modo autonomo, ed è possibile che dietro a tutto ci siano ancora persone.

La scorsa estate, la Cyber ​​​​Security and Infrastructure Security Agency (CISA) degli Stati Uniti ha definito gli attacchi ransomware "la minaccia alla sicurezza informatica più visibile".

La CISA afferma che molte attività in cui un criminale informatico intercetta e crittografa i dati di una persona o di un'organizzazione e poi estorce un riscatto non vengono mai denunciate perché la vittima paga i criminali informatici e non è disposta a pubblicizzare problemi con i loro sistemi insicuri. A livello micro, i criminali informatici spesso prendono di mira gli anziani che hanno difficoltà a distinguere tra contenuti onesti e disonesti su Internet. Lo fanno con malware incorporato in un allegato e-mail o in un pop-up su un sito Web infetto. Allo stesso tempo, sono in aumento gli attacchi a grandi aziende, ospedali, agenzie governative e governi.

Questi ultimi sono stati particolarmente presi di mira a causa dei dati sensibili in loro possesso e della possibilità di pagare ingenti riscatti.

Alcune informazioni, come le informazioni sulla salute, sono molto più preziose per il proprietario di altre e possono far guadagnare più soldi ai criminali. I ladri possono intercettare o mettere in quarantena grandi blocchi di dati clinici importanti per la cura del paziente, come i risultati dei test o le informazioni sui farmaci. Quando è in gioco la vita, in ospedale non c'è spazio per i negoziati. Uno degli ospedali americani è stato chiuso definitivamente nel novembre dello scorso anno dopo l'attacco terroristico di agosto.

Probabilmente peggiorerà solo nel tempo. Nel 2017, il Dipartimento per la sicurezza interna degli Stati Uniti ha annunciato che gli attacchi informatici potrebbero prendere di mira infrastrutture critiche come i servizi idrici. E gli strumenti necessari per eseguire tali azioni sono sempre più disponibili per gli operatori più piccoli, ai quali vendono bundle di ransomware come Cerber e software Petya e addebitano una tassa di riscatto dopo attacchi riusciti. Basato sulla criminalità informatica come servizio.

Disturbo pericoloso nel genoma

Uno degli argomenti popolari della distopia è la genetica, la manipolazione del DNA e l'allevamento di persone - inoltre, "programmato" nel modo giusto (autorità, corporazioni, militari).

L'incarnazione moderna di queste ansie è un metodo di divulgazione Modifica del gene CRISPR (3). I meccanismi che contiene sono principalmente preoccupanti. forzare le funzioni desiderate nelle generazioni successive e la loro potenziale diffusione a tutta la popolazione. Uno degli inventori di questa tecnica, Jennifer Doudna, anche di recente ha chiesto una moratoria su tali tecniche di editing "germinale" a causa di conseguenze potenzialmente disastrose.

Ricordiamo che qualche mese fa uno scienziato cinese Lui Jiankui è stato ampiamente criticato per aver modificato i geni di embrioni umani al fine di immunizzarli contro il virus dell'AIDS. Il motivo era che i cambiamenti da lui apportati potevano essere tramandati di generazione in generazione con conseguenze imprevedibili.

Di particolare interesse sono le cosiddette d (gene rewriting, gene drive), ovvero un meccanismo geneticamente modificato che codifica un sistema di editing nel DNA di un determinato individuo Genoma CRISPR/CAS9 impostandolo per modificare questa variante del gene indesiderato. A causa di ciò, i discendenti automaticamente (senza la partecipazione dei genetisti) sovrascrivono la variante genetica indesiderata con quella desiderata.

Tuttavia, una variante genica indesiderabile può essere ricevuta dalla prole "in dono" da un altro genitore non modificato. Quindi il gene drive rompiamo Leggi mendeliane dell'ereditarietàche dicono che la metà dei geni dominanti va alla prole da un genitore. In breve, questo alla fine porterà alla diffusione della variante genetica in questione nell'intera popolazione.

Biologo alla Stanford University Cristina Smolke, in un panel sull'ingegneria genetica nel 2016, ha avvertito che questo meccanismo potrebbe avere conseguenze dannose e, in casi estremi, orribili. Il gene drive è in grado di mutare nel corso delle generazioni e causare malattie genetiche come l'emofilia o l'emofilia.

Come si legge in un articolo pubblicato su Nature Reviews dai ricercatori dell'Università della California, Riverside, anche se una pulsione funziona come previsto in una popolazione di un organismo, lo stesso tratto ereditario può essere dannoso se in qualche modo viene introdotto in un'altra popolazione. . lo stesso sguardo.

C'è anche il pericolo che gli scienziati creino gene drive a porte chiuse e senza revisione tra pari. Se qualcuno intenzionalmente o meno introduce un gene drive dannoso nel genoma umano, come quello che distrugge la nostra resistenza all'influenza, potrebbe anche significare la fine della specie di homo sapiens...

Il capitalismo della sorveglianza

Una versione della distopia che gli ex scrittori di fantascienza difficilmente avrebbero potuto immaginare è la realtà di Internet, e in particolare dei social media, con tutte le sue ramificazioni ampiamente descritte che distruggono la privacy, le relazioni e l'integrità psicologica delle persone.

Questo mondo è dipinto solo in spettacoli artistici più recenti, come quello che abbiamo potuto vedere nella serie Black Mirror nell'episodio del 2016 "The Diving" (4). Shoshana Zuboff, un economista di Harvard, definisce questa realtà completamente dipendente dall'autoaffermazione sociale e completamente "privatizzata". capitalismo di sorveglianza (), e allo stesso tempo il coronamento del lavoro di Google e Facebook.

4. Scena da "Black Mirror" - episodio "Diving"

Secondo Zuboff, Google è il primo inventore. Inoltre, espande costantemente le sue attività di sorveglianza, ad esempio attraverso progetti di città intelligenti apparentemente innocenti. Un esempio è il progetto World's Most Innovative Neighborhood di Sidewalk Labs, una sussidiaria di Google. molo a Toronto.

Google prevede di raccogliere tutti i più piccoli dati sulla vita degli abitanti del lungomare, sui loro movimenti e persino sulla respirazione con l'aiuto di sensori di monitoraggio onnipresenti.

È anche difficile scegliere una distopia di Internet fuori questione su Facebook. Il capitalismo della sorveglianza potrebbe essere stato inventato da Google, ma è stato Facebook a portarlo a un livello completamente nuovo. Ciò è avvenuto attraverso meccanismi virali sociali ed emotivi e persecuzioni spietate anche nei confronti di coloro che non sono utenti della piattaforma Zuckerberg.

Intelligenza artificiale custodita, immersa nella realtà virtuale, convivente con UBI

Secondo molti futuristi, il futuro del mondo e della tecnologia è designato da cinque abbreviazioni: AI, AR, VR, BC e UBI.

I lettori di "MT" probabilmente sanno bene cosa sono e in cosa consistono i primi tre. Il famiglio risulta essere anche il quarto, "BC", quando capiamo di cosa si tratta. E il quinto? UBD è un'abbreviazione del concetto, che significa "reddito di base universale » (5). Si tratta di un beneficio pubblico, postulato di volta in volta, che sarà concesso a ogni persona esonerata dal lavoro man mano che si sviluppano altre tecnologie, in particolare l'IA.

5. Reddito Base Universale - UBI

La Svizzera ha persino sottoposto l'idea a un referendum l'anno scorso, ma i suoi cittadini l'hanno respinta, temendo che l'introduzione di un reddito garantito avrebbe portato a un'ondata di immigrati. UBI comporta anche una serie di altri pericoli, compreso il rischio di perpetuare le disuguaglianze sociali esistenti.

Ciascuna delle rivoluzioni tecnologiche dietro l'acronimo (vedi anche :) - se si diffonde e si sviluppa nella direzione prevista - ha enormi conseguenze per l'umanità e il nostro mondo, inclusa, ovviamente, un'enorme dose di distopia. Ad esempio, si ritiene che potrebbe sostituire i cicli elettorali quadriennali e portare a referendum su innumerevoli questioni.

La realtà virtuale, a sua volta, è in grado di "escludere" parte dell'umanità dal mondo reale. Come è successo, ad esempio, con la coreana Jang Ji Sung, che, dopo la morte della figlia nel 2016 per una malattia incurabile, da allora ha incontrato il suo avatar in VR. Lo spazio virtuale crea anche nuovi tipi di problemi, o trasferisce effettivamente tutti i vecchi problemi conosciuti nel "nuovo" mondo, o anche in molti altri mondi. In una certa misura, possiamo già vederlo nei social network, dove capita che troppo pochi Mi piace sui post portino alla depressione e al suicidio.

Racconti profetici più o meno

Dopotutto, la storia della creazione di visioni distopiche insegna anche cautela nel formulare previsioni.

6. Copertina di "Isole nella Rete"

Girato l'anno scorso è stato il famoso capolavoro di fantascienza di Ridley Scottcacciatore di androidi» Dal 1982. È possibile discutere del compimento o meno di molti elementi specifici, ma è indiscutibile che la profezia più importante sull'esistenza nel nostro tempo di androidi umanoidi intelligenti, per molti versi superiori agli umani, non sia ancora divenuta realtà.

Saremmo pronti a tollerare molti altri successi profetici".Neuromanti»cioè romanzi William Gibson dal 1984, che ha reso popolare il concetto di "cyberspace".

Tuttavia, in quel decennio, è apparso un libro leggermente meno noto (nel nostro paese, quasi completamente, perché non è stato tradotto in polacco), che prevedeva il tempo di oggi in modo molto più accurato. Sto parlando di romanticismoIsole sul Web"(6) Bruce Sterling dal 1988, ambientato nel 2023. Presenta un mondo immerso in qualcosa di simile a Internet, noto come "web". È controllato da grandi società internazionali. "Isole sul Web" sono note per fornire controllo, sorveglianza e monopolizzazione di Internet presumibilmente gratuito.

Interessante anche la previsione di operazioni di combattimento effettuate con velivoli senza pilota (droni) contro pirati/terroristi online. Operatori a migliaia di chilometri di distanza con desktop sicuri: come facciamo a saperlo? Il libro non parla del conflitto senza fine con il terrorismo islamico, ma della lotta contro le forze che si oppongono alla globalizzazione. Il mondo di Islands in the Net è anche pieno di dispositivi di consumo che assomigliano molto a smartwatch e scarpe sportive intelligenti.

C'è un altro libro degli anni '80 che, sebbene alcuni degli eventi sembrino più fantastici, fa un buon lavoro nell'illustrare le nostre paure distopiche dei giorni nostri. Questo "Software georadar", Storia Rudy Rookerambientato nel 2020. Il mondo, lo stato della società ei suoi conflitti sembrano incredibilmente simili a quello con cui abbiamo a che fare oggi. Ci sono anche robot conosciuti come bopper che hanno acquisito consapevolezza di sé e sono fuggiti nelle città sulla luna. Questo elemento non si è ancora concretizzato, ma la rivolta delle macchine sta diventando un ritornello costante di pronostici neri.

Anche le visioni del nostro tempo nei libri sono sorprendentemente accurate in molti modi. Ottavia Maggiordomo, specialmente inParabole del seminatore» (1993). L'azione inizia nel 2024 a Los Angeles e si svolge in California, devastata da inondazioni, tempeste e siccità causate dai cambiamenti climatici. Le famiglie della classe media e operaia si incontrano in comunità chiuse mentre cercano di fuggire dal mondo esterno con droghe che creano dipendenza e kit di realtà virtuale. Stanno emergendo nuove religioni e teorie del complotto. La carovana di profughi si dirige a nord per evitare il collasso ecologico e sociale. Sale al potere un presidente che usa lo slogan della campagna "Make America Great Again" (questo è lo slogan di Donald Trump)...

Il secondo libro di Butler, "Parabola dei talentiracconta come i membri di un nuovo culto religioso lasciano la Terra su un'astronave per colonizzare Alpha Centauri.

***

Qual è la lezione di questa vasta rassegna di predizioni e visioni fatta diversi decenni fa sulla nostra vita quotidiana?

Probabilmente, il fatto è che le distopie si verificano spesso, ma il più delle volte solo in parte.