Posts tagged ‘società di controllo’

24 Febbraio, 2020

3. Minority Report: libertà o sicurezza

by gabriella

minority report

Terza e quarta lezione dedicate ai problemi della società digitale (qui la prima e la seconda) inquadrati a partire da Minority Report.

Una società in cui i cittadini sono trasparenti – come in quella immaginaria del racconto di Philip K. Dick e del film o in quella attuale dominata dai Big data nella quale stato e mercato sanno tutto di noi – e il sistema opaco è una società autoritaria, oppressiva e senza libertà.

La sceneggiatura di Minority Report propone il tema classico del rapporto libertà-sicurezza e la sua possibile declinazione in una società della sorveglianza nella quale il sistema detiene informazioni complete sui comportamenti dei propri cittadini.

Dando forma alla storia della Precrime e del suo capo operativo, il capitano Anderton, Dick si chiede quanto sia desiderabile una società in cui la Polizia può fermare il crimine prima che sia commesso, quale sia il prezzo da pagare in termini di libertà e giustizia cioè se, in definitiva, una vita nel sistema disegnato da Precrime possa ancora dirsi pienamente umana.

Fascism is the enemy wherever it appears

Philip K. Dick

Indice

1. Il soggetto

1.1 Il futuro omicidio Marx
1.2 Il Capitano Anderton e la storia della Precrime

 

2. Il problema

 

Download (PPTX, 4.69MB)

Download (PPTX, 3.09MB)

 

1. Il soggetto

Precrime è un sistema di controllo basato sulle premonizioni di tre individui tenuti in stato di semincoscienza e capaci di individuare in modo apparentemente infallibile i futuri omicidi. La sezione di polizia che lo gestisce è guidata dal capitano Anderton.

read more »

23 Febbraio, 2020

4. L’era dei Big data

by gabriella

Quinta lezione (qui la prima, seconda e terza) sui problemi della società digitale, dedicata ai Big data.

Come suggerisce The Age of Big Data, un’inchiesta BBC del 2013 – qui tradotta quasi integralmente – e un altro videoclip BBC disponibile qui, l’era dei grandi dati ha reso le informazioni prodotte dai e sui cittadini il principale strumento di potere e sviluppo economico.

La predicibilità e la modellizzazione dei comportamenti umani estratti dai Big Data sono ora la fonte planetaria del controllo e della creazione di ricchezza [la traduzione del documentario è lasciata in nero, il commento è evidenziato in amaranto].

Ad ogni tipo di società […] si può far corrispondere un tipo di macchina […]
Ma le macchine non spiegano nulla, si devono invece analizzare i concatenamenti collettivi
di cui le macchine non sono che un aspetto.

Gilles Deleuze, Controllo e divenire, 1990

 

Indice

1. Oltre Minority Report, la sperimentazione della Precrimine a Los Angeles

1.1 Il paradigma antropologico. Jeff Brantingham e il Predictive Policing
1.2 La mathesis universalis del XXI secolo

 

2. Oltre il paradigma della sorveglianza: il business dei Big Data

 

read more »

8 Febbraio, 2020

Clearview AI

by gabriella

È un’applicazione in grado di risalire, a partire da una singola foto, a tutte le immagini pubbliche di una persona e ai loro link. Il New York Times è stato il primo a darne notizia, osservando che Clearview

“va al di là di quanto mai creato dal governo americano o dai giganti della Silicon Valley, e  può mettere fine alla privacy così come la conosciamo”.

Secondo l’inchiesta del NYT, l’applicazione è stata creata da una piccola start-up, la Clearview AI, fondata da Hoan Ton-That e Richard Schwartz, uno dei consiglieri di Rudolph Giuliani quando era sindaco di New York. Fra i finanziatori anche Peter Thiel, il miliardario dietro a Facebook e Palantir, società che, in perfetto stile Minority Report, usa l’AI per prevedere il crimine.

 

Usarla è molto semplice: basta scattare o caricare una foto di una persona per avviare una ricerca di tutte le immagini pubbliche del soggetto in questione, insieme ai relativi link. A differenza di altri sistemi simili che fanno affidamento sulle foto segnaletiche o sulle immagini della motorizzazione civile, l’app attinge a un database di oltre tre miliardi di immagini prese da Facebook, YouTube, Venmo e milioni di altri siti e social network su cui le persone hanno caricato le proprie foto.

E mentre l’Unione Europea sta valutando di vietare il riconoscimento facciale nei luoghi pubblici fino a cinque anni, in attesa dell’approvazione di una legge apposita per evitare abusi, emerge che le forze dell’ordine statunitensi – dalla polizia all’FBI, senza dimenticare la NCCA – utilizzano l’app di Clearview AI già da un anno.

E non è finita: Clearview AI tiene traccia delle query effettuate dagli agenti, e può anche manipolarne i risultati. Per ora l’app è disponibile solo per alcuni soggetti come le forze dell’ordine, ma in futuro l’uso potrebbe essere esteso anche al pubblico.

Download (PDF, 137KB)

 

4 Novembre, 2016

Gilles Deleuze, Poscritto sulle società di controllo

by gabriella

Per ricordare Deleuze, nel ventunesimo anniversario della morte, rileggiamo il Post-scriptum sur les sociétés de contrôle [pubblicato ne L’autre journal (1990), poi in Pourparler (1990), trad. it. Pourparler] la cui visione ha realizzato l’auspicio foucaltiano che «il secolo» sarebbe stato «deleuziano».

 

Gilles Deleuze (1925 – 1995)

I. Storia

Foucault ha collocato le società disciplinari tra il Diciottesimo e il Diciannovesimo secolo; giungono al loro apogeo all’inizio del Ventesimo. Procedono all’organizzazione di grandi ambienti di reclusione. L’individuo non cessa di passare da un ambiente chiuso all’altro, ciascuno dotato di proprie leggi: dapprima la famiglia, poi la scuola («non sei più in famiglia»), poi la caserma («non sei più a scuola»), poi la fabbrica, ogni tanto l’ospedale, eventualmente la prigione che è l’ambiente di reclusione per eccellenza. È il carcere che serve da modello analogico: la protagonista di Europe 51 può esclamare quando vede degli operai «ho creduto di vedere dei condannati…».

read more »

20 Marzo, 2015

Cassandra Crossing, Obama, la Cina, le app

by gabriella

cassandraSveglie che suonano prima in caso di traffico, piante che comunicano all’annaffiatoio quando è ora di bagnarle, sono utilità che stabiliscono un controllo pervasivo e interessato sulle vite dei cittadini. Americani e cinesi temono reciprocamente le rispettive cimici. Un ordinario cittadino dovrebbe fidarsi solo perché hardware e software dichiarano la propria trasparenza e innocuità? Non solo l’Internet delle Cose, ma anche le Cose di Internet possono essere pericolose. L’istruttivo corsivo del commentatore di PuntoInformatico su come le Cose di Internet prendano possesso di noi.

Roma – L’altro giorno, vittima di un momento di sbandamento, ho provato ad installare su mio smartphone la mia prima app commerciale, quella di Twitter, da un repository che sapevo pericoloso come Play Store, invece che da un più sicuro F-Droid.  Infatti, come molti dei 24 implacabili lettori già sanno, il dumbphone di Cassandra è defunto per cadute e consunzione, e la sua tasca è stata nuovamente occupata da un normale smartphone di generazione n-2 (quindi molto economico), debitamente ed accuratamente (per quanto possibile) disinfestato da qualsiasi cosa non fosse indispensabile e con tutte le autorizzazioni accuratamente negate.

Lo so, è stato un momento di debolezza, ma la schermata di richiesta di autorizzazioni che mi è comparsa davanti mi ha traumaticamente riportato alla realtà, alla necessità di non cedere alle comodità. e mi ha fatto tornare sui miei passi. Non succederà più.

read more »

14 Maggio, 2014

Valeria Pinto, Valutare e punire

by gabriella

pintoValutare e punire. Una critica della cultura della valutazione, Cronopio, Napoli, 2012.

 

I presupposti cognitivisti della valutazione

[…] l’identificazione – assunta spesso del tutto ingenuamente – della conoscenza con i processi computazionali, ovvero con quella che si può ben chiamare una considerazione disincarnata e disincarnante della conoscenza, una certa idea cognitivista. Essa distacca la conoscenza dai processi materiali e soggettivi che la materiano, distillando da un lato una conoscenza meramente funzionale e dall’altro dei portatori di conoscenza sempre più alieni (e alienati) dalla (e nella) conoscenza che ‘supportano’: soggetti neu(t)rali e neu(t)ralizzati, da rendere anzi sempre più tali, cioè sempre meno coinvolti e capaci di interferire con la conoscenza che sono chiamati a produrre. Si tratta di un’idea letteralmente ingegneristica della conoscenza, legata alla progettazione di ‘sistemi esperti’ e guidata dal principio metodico per il quale conoscere qualcosa vuol dire essere in grado di riprodurlo, ovvero essere sempre in grado di delucidare il proprio operato.

Sganciata dalle percezioni corporee, depurata dalle sensazioni e dai sentimenti, dalle fantasie come dai desideri e dai bisogni concreti, dalle aspettative come dalle rinunce, svincolata cioè dall’accidentalità e caoticità dei contenuti di cui è intessuta e del tutto aliena dalla capacità di formulare giudizi, interpretare e determinare svolte o decidere alcunché, questa idea di conoscenza si sposa fino a combaciarvi con le esigenze di controllo funzionale attive negli approcci di tipo sistemico. È un’idea di conoscenza concepita interamente sotto il segno della esecuzione, dell’ubbidienza senza sforzo e senza tentennamenti a un sistema di regole definito in anticipo, dall’esterno e dall’alto.
Le considerazioni di tipo sistemico sono divenute ormai un modello privilegiato per trattare le questioni della conoscenza e della sua organizzazione soprattutto a livello istituzionale, grazie alla loro efficacia in fatto di gestione e progettazione di realtà complesse. Le esigenze di ottimizzazione che la valutazione persegue si intrecciano qui con il principio fondamentale del rendere più lineari e definite le funzionalità di sistema. Ora, in un sistema non meccanico ma ‘socio-tecnico’ qual è il sistema della conoscenza, il maggior elemento di variabilità, divergenza e attrito è rappresentato dalle individualità che lo compongono. Un’esigenza di sistema prioritaria è quindi quella di depurare per quanto possibile i soggetti in gioco dal potenziale di disturbo o ‘rumore’ implicito in ciò che eccede la loro funzione di portatori indifferenti e fungibili della conoscenza. A quest’opera di neutralizzazione e contenimento necessaria all’autoconservazione del sistema la valutazione mette a disposizione la sua capacità di portare in luce, estrarre, rendere trasparente il sapere tacito, cioè trattenuto e/o disperso (due cose che non sono affatto opposte tra di loro) dai suoi possessori.

 

La recensione di Eleonora de Conciliis, da Kainós.

In un’epoca di conformismo gregario travestito da individualismo radical chic, e in un’università, come quella italiana, giunta a sua volta ad uno snodo epocale (ovvero alla definitiva trasformazione in agenzia formativa tra le altre, che vende saperi spendibili su un mercato del lavoro cognitivo ormai tragicamente saturo), Valeria Pinto, che in quest’università insegna come professore associato di filosofia teoretica, ha deciso di prendere posizione – una posizione abbastanza solitaria e quindi scomoda, per non dire paradossale, visto che il suo libro, foucaultiano fin dal titolo e documentato con un’acribia ironicamente coniugata all’impegno teorico, attacca frontalmente la logica della valutazione che ha generato il decreto ministeriale in virtù del quale la stessa Pinto dovrà essere valutata per accedere, o almeno aspirare al ruolo di professore ordinario.

Poiché mi sono formata nella stessa università nella quale si è formata e attualmente insegna Valeria Pinto (la “Federico II” di Napoli), e poiché sono reduce da un’animata discussione intorno a questi temi svoltasi nella sede della casa editrice che l’ha pubblicato (Cronopio), la mia recensione, più che illustrare il contenuto del volume (già ampiamente recensito su quotidiani e riviste) sarà una riflessione su quell’incontro ed anche – in parte – un dialogo con coloro che colà sono intervenuti.

Ciò premesso, il principale merito genealogico di questo libro rischiosamente ‘militante’ ma, come vedremo, assolutamente impolitico, consiste nel mostrare fino a che punto ciò che sembra ormai a molti docenti (universitari e non) qualcosa di assolutamente naturale, apriorico e indiscutibile – la docimologia quantitativa, il sistema dell’istruzione come sistema di servizio per un’utenza e, dulcis in fundo, le famose mediane dell’abilitazione scientifica nazionale – sia in realtà qualcosa di costruito, artificiale, storico, per non dire basso e volgare: allo sguardo illuminante e indocile della critica 1, la sacra triade ‘trasparenza, valutazione e merito’ non appare affatto come natura, ma come storia, così come storica e impura è la logica concorrenziale che si è innestata nelle menti dei valutatori.

read more »

6 Marzo, 2014

Zygmunt Bauman, David Lyon, Sesto potere. La sorveglianza nella modernità liquida

by gabriella

sesto potereTraggo da Micromega le recensioni di Carlo Formenti e Stefano Rodotà [e un estratto del libro] al saggio di Zygmunt Bauman e David Lyon, Sesto potere. La sorveglianza nella modernità liquida,  Roma-Bari, Laterza, 2014.

 

Carlo Formenti, Sorvegliati e felici

Carlo

Carlo Formenti

Le preoccupazioni per l’uso intensivo dei media digitali come strumenti di sorveglianza pervasiva sono aumentate esponenzialmente dopo le rivelazioni della “gola profonda” Edward Snowden sulle pratiche di spionaggio messe in atto dai suoi ex datori di lavoro, la maggiore agenzia di sicurezza Usa, la NSA, ai danni dei cittadini americani e di tutti gli altri Paesi, nonché di capi di stato (anche alleati) e imprese pubbliche e private.

A mano a mano che Snowden rendeva noti nuovi documenti che denunciavano tali pratiche – intercettazioni di conversazioni telefoniche, email e quant’altro – i media sfoderavano gli immancabili riferimenti al romanzo 1984 di Orwell, o al Panopticon di Bentham, utilizzato da Michel Foucault come emblema di una modernità assurta a regno della sorveglianza e del controllo. Ora un libro a quattro mani di David Lyon e Zygmunt Bauman (si tratta di una conversazione a distanza, realizzata attraverso lo scambio di email) dal titolo Sesto Potere. La sorveglianza nella modernità liquida (Ed. Laterza) suggerisce una prospettiva diversa.

read more »

1 Marzo, 2014

Giovanni Sartor, Il diritto digitale come prova generale di un diritto post-liberale

by gabriella

internetNel 2002, in occasione di un congresso giuridico – XXIII Congresso nazionale della Società Italiana di filosofia giuridica e politica, Macerata 2-5/10/2002 – Giovanni Sartor propose una lettura del nuovo tipo di diritto che la digitalizzazione sta sovrapponendo ai sistemi normativi tradizionali. La tesi esposta da Sartor ne Il diritto della rete globale, evidenzia come la prevenzione e l’esecuzione automatica della norma, propri della governance digitale affermatasi dall’inizio del millennio con gli accordi internazionali sul copyright, sopprimano il fondamento kantiano del diritto moderno, vale a dire i principi di autonomia e libertà del cittadino. Il giurista ci guida, in questo modo, ad osservare in che modo accada, sottolineando l’inadeguatezza dell’idea comune che la sorveglianza sia fondamentalmente innocua e che debba temerla solo chi delinque.

Ci si potrebbe chiedere se non dovremmo accogliere con entusiasmo questa tendenza, e accettare il fatto che il diritto venga sostituito da forme più evolute di controllo sociale. Il governo dell’attività umana mediante computer potrebbe rendere vera l’antica utopia del superamento del diritto. Anziché usare la normatività per coordinate il comportamento degli individui (che richiede la cooperazione attiva della mente dell’individuo stesso, ed esige che egli adotti la norma quale criterio del proprio comportamento, o almeno che egli tema la sanzione), la società potrebbe governare il comportamento umano (nel cyberspazio) introducendo processi computazionali che abilitino solo le azioni desiderate. Come abbiamo osservato circa i nuovi modi di proteggere la proprietà intellettuale, quando si fosse in grado di rendere impossibili le azioni indesiderate rimarrebbe la necessità di vietare e punire esclusivamente il comportamento di chi tenti di ricreare la possibilità di tenere tali azioni (il tentativo dell’hacker di rimuovere le protezioni software). Tenendo conto della pervasività del cyberspazio e di come esso si vada compenetrando allo spazio fisico, diventerebbe in questo modo possibile governare in modo articolato e complesso i comportamenti del singolo, liberando la sua mente dell’onere di farsi carico del problema della normatività.

Giovanni Sartor, Il diritto della rete globale, 2002

read more »

1 Gennaio, 2014

Giorgio Agamben, Democrazia e sicurezza

by gabriella

AgambenL’autore di Stato d’eccezione su sicurezza e democrazia. Tratto da Le Monde diplomatique, gennaio 2014.

Eretta a priorità politica da una quarantina di anni, la sicurezza, questa nuova denominazione del mantenimento dell’ordine cambia spesso di pretesto (la sovversione politica, il «terrorismo») ma conserva la sua mira: governare le popolazioni. Per comprendere ed eludere la ragione securitaria, bisogna coglierne l’origine e risalire al XVIII secolo…

La formula «per ragioni di sicurezza» («for security reasons», «pour raisons de sécurité») funziona come un argomento autorevole che, tagliando corto in ogni discussione, permette di imporre prospettive e misure che non si accetterebbero senza di essa. Bisogna opporgli l’analisi di un concetto dall’apparenza anodino, ma che sembra aver soppiantato ogni altra nozione politica: la sicurezza.

read more »

20 Ottobre, 2013

Dalla sorveglianza moderna alla New Surveillance. Il ruolo delle tecnologie informatiche nei nuovi metodi di controllo sociale

by gabriella

sorveglianzaTratto dal Centro di documentazione su carcere, devianza, marginalità dell’Università degli Studi di Firenze.

1.1. Origini storiche dei processi di sorveglianza

 Il re prende nota di tutte le loro intenzioni,
Con mezzi che nemmeno possono immaginare

William Shakespeare, Enrico V

 

L’espressione società della sorveglianza” è stata spesso ascritta a David Lyon, sociologo canadese che ha studiato, in molte sue opere, gli effetti dei nuovi mezzi di controllo sociale, e delle loro interazioni con le più recenti tecnologie informatiche. In realtà, il primo a parlare di “società della sorveglianza”, è stato Gary T. Marx, in un articolo comparso nel 1985 sulla rivista The Futurist (1). Il sociologo statunitense analizza il forte cambiamento avvenuto nel passaggio dall’era moderna all’era postmoderna, in cui le nuove tecnologie assumono un ruolo principale nel nuovo assetto sociale, ed afferma senza timore che

grazie alla tecnologia informatica sta crollando una delle ultime barriere che ci separano dal controllo totale.

Gary T. Marx definisce questo fenomeno New Surveillance: lo scopo della sua analisi è proprio quello di marcare le differenze tra la sorveglianza sviluppatasi con la nascita degli stati moderni nel XIX secolo, quando la raccolta dati serviva allo stato per amministrare la nazione, e la sorveglianza contemporanea, quella in cui non solo lo stato, ma anche le aziende commerciali, le assicurazioni, agenzie ed organizzazioni dei più svariati settori raccolgono ed elaborano informazioni personali su chiunque, con lo scopo di controllarne e manipolarne le interazioni sociali, le preferenze, le opinioni.

read more »


%d blogger hanno fatto clic su Mi Piace per questo: