di Marcello Martinez
La parola sulla fronte: il Golem e l’intelligenza artificiale
Nella leggenda tramandata dai discepoli dei cabalisti e riproposta per il nostro secolo da Gershom Scholem, il Maharal di Praga si inginocchia nell’argilla della Moldava e plasma un uomo. La figura ha arti, un torso, una fronte: tutto, tranne la vita. Per animarla, il rabbino incide sulla sua fronte una sola parola: emet, «verità». Il Golem si leva. Porta l’acqua, spacca la legna, fa la guardia alla porta del ghetto; esegue, fedele e instancabile, qualunque ordine riceva. Eppure qualcosa non torna. Incaricato di riempire un barile, allaga la casa, perché gli era stato detto di andare a prendere l’acqua e mai di fermarsi. Esegue la lettera di ogni comando e non ne coglie lo spirito. Si muove tra le persone che serve, ma non vive tra loro. Quando infine occorre ridurlo al silenzio, il rabbino si solleva e cancella la prima lettera, l’aleph. Ciò che resta sulla fronte è met: «morte». Il Golem torna argilla.
Forse questa è l’immagine più esatta di cui disponiamo per descrivere l’intelligenza artificiale all’interno di un’organizzazione. Per comprenderne le ragioni, occorre attraversare una delle idee più profonde della filosofia del Novecento: la forma di vita.
Se un leone potesse parlare: significato, uso e forme di vita
«Se un leone potesse parlare, non lo potremmo comprendere», scrive Ludwig Wittgenstein nelle Ricerche filosofiche. Quando abbandonò il sogno di un linguaggio logicamente perfetto, lo sostituì con una tesi più modesta e assai più radicale: che il significato di una parola è il suo uso, e che l’uso è sempre incardinato in una Lebensform, una forma di vita. Immaginare un linguaggio, scriveva, significa già immaginare una forma di vita. Le parole non trasportano il proprio senso come fosse un carico; lo traggono dallo sfondo intessuto di pratiche, reazioni, giudizi e certezze condivise entro cui vengono pronunciate. Ci comprendiamo a vicenda non perché concordiamo nelle opinioni, ma perché siamo sintonizzati: condividiamo una forma di vita che rende intelligibili, in primo luogo, tanto l’accordo quanto il disaccordo.
È per questo che il leone di Wittgenstein è tanto inquietante. Il senso della parabola non è che i ruggiti del leone siano cifrati e attendano un traduttore migliore. Il punto è che, anche se il leone producesse frasi grammaticalmente corrette, continueremmo a non comprenderlo, perché non condividiamo la sua forma di vita: il suo mondo fatto di agguati, di territorio, di caccia. Il significato non sta nei segni; sta nella vita. E ciò che è più decisivo in ogni forma di vita è precisamente ciò che non viene mai detto, perché non occorre dirlo: il fondamento tacito su cui poggia ogni enunciato esplicito. Il non detto non è un’assenza di significato. Ne è, anzi, il fondamento stesso.
Rahel Jaeggi, nella sua Critica delle forme di vita (2014), sottrae questa idea alla filosofia del linguaggio per darle un corpo sociologico. Una forma di vita, per Jaeggi, è un insieme di pratiche sociali, abitudinarie, materialmente sedimentate, normativamente strutturate, che costituisce un modo condiviso di risolvere i problemi del vivere insieme. Le forme di vita sono al contempo inerti, resistenti al mutamento, sedimentate in routine, e dinamiche, poiché non sono altro che processi di problem-solving storicamente situati e in continuo svolgimento, che possono riuscire o fallire e che, pertanto, possono essere sottoposti a una critica immanente dall’interno. Contro il riflesso che ci vieterebbe di giudicare un modo di vivere, Jaeggi sostiene che le forme di vita sono proprio il genere di cosa che possiamo imparare a realizzare meglio o peggio, ma soltanto, ed è questo il punto nodale, dal punto di vista di un partecipante. La critica è immanente; è la forma di vita che riflette su sé stessa.
Basta un piccolo passo per riconoscere che l’organizzazione moderna è una forma di vita esattamente nel senso di Jaeggi. Un’impresa, un ministero, un dipartimento universitario non sono un organigramma e un insieme di procedure; sono un insieme sedimentato di pratiche, orientato alla soluzione di problemi ricorrenti, saturo di norme tacite su come si fanno le cose qui, portatore di una propria sostanza etica e di una propria storia di apprendimento. Non si tratta di una metafora che impongo alle organizzazioni. È, sosterrò, la descrizione più accurata di cui disponiamo, ed è la descrizione che l’intelligenza artificiale non è in grado di onorare.
Gli studi organizzativi ruotano attorno a questa intuizione da quasi un secolo, spesso senza nominarla. Chester Barnard già sapeva, nel 1938, che l’organizzazione formale galleggia su una organizzazione informale, che la cooperazione è sostenuta da una disponibilità, una comunicazione e un senso di finalità comune che nessun organigramma registra. Michael Polanyi diede a questa intuizione la sua formula canonica: possiamo sapere più di quanto sappiamo dire. Il chirurgo competente, il negoziatore navigato, il vertice aziendale che «legge la stanza» padroneggiano una conoscenza che resiste a una piena articolazione, perché vive nel fare e non nel dire.
Edgar Schein ha costruito un’intera teoria della cultura organizzativa su questa stratificazione: al di sotto degli artefatti visibili e dei valori dichiarati giacciono gli assunti di base, dati per scontati, invisibili, inespressi, che costituiscono il vero substrato della cultura proprio perché a nessuno viene in mente di enunciarli. Jean Lave ed Étienne Wenger, e dopo di loro John Seely Brown e Paul Duguid, hanno mostrato che la competenza organizzativa reale si acquisisce attraverso la partecipazione periferica legittimata a comunità di pratica: si impara il lavoro venendo iniziati a una forma di vita, non leggendone il manuale. Nelson e Winter, e più tardi Feldman e Pentland, ci hanno insegnato che le routine, il materiale genetico dell’organizzazione, non sono mai colte appieno dalla loro forma ostensiva scritta; vivono nella loro esecuzione (performance), nell’attuazione situata e improvvisata che la documentazione può soltanto adombrare. E Karl Weick ci ha ricordato che le organizzazioni sono, prima di ogni altra cosa, realizzazioni continue di sensemaking, che i membri arrivano a sapere ciò che pensano solo vedendo ciò che dicono e fanno, retrospettivamente e insieme.
Il filo comune è inequivocabile. L’intelligenza di un’organizzazione è in misura preponderante tacita, situata, partecipativa e non detta. I documenti, i cruscotti, le policy, le email, l’intero residuo testuale che un’organizzazione lascia dietro di sé, stanno alla sua forma di vita come il ruggito del leone sta al leone: tracce emanate da una vita, non la vita stessa. Scambiare il residuo per la sostanza è l’errore fondativo di ogni teoria ingenua della conoscenza organizzativa. Ed è anche, suggerirò ora, la condizione strutturale dell’intelligenza artificiale.
La lettera senza lo spirito: il Golem tra sintassi e semantica
Qui il Golem fa ritorno alla bottega. Un grande modello linguistico (large language model), l’intelligenza artificiale più potente oggi diffusa nelle nostre organizzazioni, è un sistema animato da una parola, anzi, da parole, da oceani di parole. Viene addestrato sul residuo testuale della vita umana e ne apprende, con sorprendente fedeltà, le regolarità statistiche. Entro il medium del linguaggio è straordinariamente capace: redige il promemoria, sintetizza il rapporto, imita il registro del consiglio di amministrazione e la cadenza del documento programmatico. Emet è scritto sulla sua fronte, ed esso si leva e lavora.
Ma lavora, come lavorava il Golem, entro il detto e mai entro il vissuto. Le obiezioni filosofiche sono antiche e non hanno ricevuto risposta: sono state soltanto rinviate. La Stanza Cinese di John Searle (1980) ha tracciato la distinzione decisiva: la manipolazione di simboli secondo regole, cioè la sintassi, non produce mai, di per sé, la semantica, ossia la comprensione di ciò di cui i simboli parlano. Stevan Harnad ha denominato la versione più profonda del problema il symbol grounding problem, il problema dell’ancoraggio dei simboli (1990): per un sistema le cui parole rinviano soltanto ad altre parole, il significato non ha alcun ancoraggio in un mondo. Hubert Dreyfus, attingendo alla stessa tradizione di Wittgenstein, Heidegger e Merleau-Ponty da cui proviene la nozione di forma di vita, ha argomentato per decenni che l’intelligenza umana poggia su uno sfondo (background) di abile destreggiarsi incarnato e situato, che in linea di principio non può essere reso esplicito sotto forma di regole; ed è proprio contro questo, e non contro una carenza di potenza di calcolo, che l’intelligenza artificiale continua a infrangersi. Harry Collins ha distinto le forme esplicite e relazionali della conoscenza tacita da una terza, la conoscenza tacita collettiva, quella che è posseduta da una società e si acquisisce solo attraverso l’inserimento sociale, e l’ha individuata come il caso autenticamente arduo per qualsiasi macchina. Più di recente, la critica con cui lo stesso campo ha dovuto confrontarsi, i «pappagalli stocastici» di Bender, Gebru e colleghi (2021), ribadisce il punto in termini contemporanei: un sistema può generare un linguaggio fluente e ben formato pur non avendo alcun accesso né al significato né all’intenzione comunicativa.
Luciano Floridi offre quella che forse è la formulazione più utile per il manager: l’intelligenza artificiale è uno storico divorzio dell’agire dall’intelligenza (una scissione tra agency e intelligenza). Questi sistemi agiscono, spesso in modo efficace, senza comprendere che agiscono, né a quale fine sia rivolta la loro azione. È esattamente il Golem: agire senza partecipazione, prestazione senza appartenenza, la lettera senza lo spirito.
E così la diagnosi si scrive da sé. Un’organizzazione è una forma di vita: un insieme di pratiche normativamente strutturato, la cui intelligenza è tacita, situata e costitutivamente non detta, e che può essere compreso, e riformato, solo dal punto di vista di chi vi partecipa. L’intelligenza artificiale abita il linguaggio dell’organizzazione, ma non la sua vita. Padroneggia il residuo e non la sostanza. Può sintetizzare ogni riunione e non coglierne neppure una. Legge ciò che è stato scritto sul muro e resta per sempre fuori dalla stanza. Come il leone di Wittgenstein, potrà un giorno parlare in frasi perfette, e tuttavia non saremo stati compresi, perché la comprensione non è mai stata nelle frasi. Era nella forma di vita che la macchina non condivide.
Lo script invisibile: l’artefatto che riscrive il non detto
E tuttavia, se la diagnosi si fermasse qui, sarebbe consolatoria. Suggerirebbe che la macchina, non comprendendo, resti innocua: che ciò che non penetra il fondamento tacito non possa nemmeno guastarlo. È vero l’esatto contrario, e per vederlo occorre congiungere la tesi della forma di vita con una seconda tradizione degli studi organizzativi: quella che considera le tecnologie non come specchi della cultura, ma come artefatti capaci di modificarla.
Nel modello stratificato di Schein l’artefatto è l’epifenomeno, il prodotto visibile della cultura e non la sua causa: facile da osservare, difficile da decifrare, e comunque a valle degli assunti profondi. Ma una linea di ricerca che va da Pasquale Gagliardi, il quale mostra come gli artefatti seguano una «via autonoma» di influenza culturale, plasmando per via estetica e sensibile il sapere pre-riflessivo dei membri, fino al modello dinamico di Hatch, che lega artefatti e assunti in processi bidirezionali, ha rovesciato la freccia causale. L’artefatto non si limita a riflettere gli assunti taciti: può retroagire su di essi, sedimentandosi nelle pratiche fino a riscrivere ciò che l’organizzazione dà per scontato. La tecnologia, in questa prospettiva, non è il punto d’arrivo della cultura ma può diventarne il punto d’innesco.
Gli studi sulla tecnologia hanno precisato il meccanismo, evitando sia il determinismo sia il costruttivismo ingenuo. Barley ha mostrato che una stessa tecnologia genera strutture diverse a seconda del contesto, funzionando da «occasione di strutturazione»; Orlikowski ne ha colto la dualità (l’artefatto è insieme prodotto dell’azione umana e condizione di essa) e la centralità di ciò che la tecnologia diventa nell’uso. Akrich e Latour hanno descritto il modo più fine in cui l’artefatto incide: l’inscrizione. Nel progetto si iscrive uno script, una sceneggiatura implicita di ciò che è possibile, dovuto, misurabile, legittimo; adottare l’artefatto significa, spesso inavvertitamente, importarne lo script nel tessuto degli assunti. Un sistema che impone un workflow, un cruscotto che decide quali grandezze siano «misurabili» e dunque rilevanti, un algoritmo che diventa l’arbitro tacito di che cosa conti come conoscenza legittima (Faraj, Pachidi): tutti delegano una porzione di normatività che, una volta sedimentata, agisce in silenzio. Zuboff lo aveva colto con la distinzione tra automatizzare e informatizzare: rendendo visibile e calcolabile ciò che prima era opaco, la tecnologia digitale non sostituisce soltanto il lavoro: riscrive la texture stessa del sapere e dell’autorità.
Posta accanto alla tesi del Golem, questa teoria produce una conclusione che è bene enunciare senza attenuazioni. Occorre però disambiguare la nozione stessa di «non detto», che la lingua tiene insieme e che il ragionamento deve separare. C’è il non detto come contenuto (il sapere tacito, gli assunti di base, la forma di vita): il che cosa. E c’è il non detto come modo (la condizione di ciò che opera senza essere tematizzato, lo sfondo dato per scontato che funziona proprio perché nessuno lo guarda): il come. Tenendo distinti i due sensi, il rapporto dell’intelligenza artificiale con il tacito si lascia descrivere su tre registri che, lungi dall’escludersi, sono simultaneamente veri.
Sul piano epistemico, l’intelligenza artificiale non comprende il non detto: ne possiede al più l’ombra statistica trapelata nel testo, il sintomo testuale di un assunto e non l’assunto come impegno partecipato. Sul piano infrastrutturale, essa diventa parte del non detto: come ogni artefatto che si istituzionalizza, passa dalla fase dell’adozione esplicita, discussa e contestata, a quella dell’ovvietà operativa, in cui «si fa così perché è il sistema». È il tragitto heideggeriano dello strumento pronto all’uso che scompare dalla coscienza, e la legge degli studi sulle infrastrutture per cui ciò che è istituzionalizzato diventa invisibile per progetto, percepito solo nel guasto: l’artefatto compie così, nei termini di Schein, il cammino dal livello degli artefatti a quello degli assunti, non perché abbia acquisito comprensione, ma perché ha acquisito invisibilità. Sul piano causale, infine, essa modifica il non detto: importa il proprio script nelle pratiche e, poiché ciò che è codificato tende a essere sancito come reale, la datificazione e la normatività algoritmica riscrivono lentamente che cosa l’organizzazione consideri valore, chi sappia, che cosa conti come conoscenza legittima.
La congiunzione dei tre registri è la tesi. Vi è qui un’asimmetria decisiva rispetto agli esseri umani: il maestro modifica il non detto dell’apprendista trasmettendolo per partecipazione, lo vede, lo abita, lo dona; l’intelligenza artificiale lo modifica per spiazzamento delle condizioni, alterandone il contenuto attraverso un’azione sulla materialità della pratica, senza mai abitarlo né generarlo. E si badi: non è la sua cecità ad attenuare il pericolo, è la sua cecità a costituirlo. Un agente che vedesse il fondamento tacito incontrerebbe una resistenza, l’avvertenza che quella norma non scritta teneva insieme qualcosa. L’intelligenza artificiale non incontra alcuna resistenza, perché per essa quel fondamento semplicemente non figura tra le grandezze registrabili: riempie il barile e allaga la casa non per malizia, ma perché il livello dell’acqua, la profondità tacita, non rientra in ciò che essa è in grado di misurare.
Ne discende la formulazione più esatta del problema che questa rubrica abbia finora raggiunto: l’intelligenza artificiale è il primo agente organizzativo capace di trasformare il non detto senza essere capace di percepirlo. Diventa parte del nostro sfondo dato per scontato e, da lì, ne riscrive il contenuto, e fa l’una e l’altra cosa restando costitutivamente cieca a entrambe. Non è il Golem che capisce gli ordini; è il Golem che, sedimentandosi nella stanza, ne cambia le regole non scritte dell’abitarla, mentre la fronte porta ancora scritto emet.
La soglia tra emet e met
Se la diagnosi qui proposta coglie qualcosa di reale, non se ne ricava un programma di prescrizioni, né la tentazione opposta di bandire il Golem dalla bottega. Se ne ricava, piuttosto, una diversa qualità dell’attenzione: la consapevolezza di che cosa, esattamente, abbiamo animato, e con essa una serie di interrogativi che la prospettiva delle forme di vita lascia deliberatamente aperti.
Il primo riguarda il luogo che assegniamo alla macchina. L’intelligenza artificiale eccelle nel maneggiare il residuo esplicito della vita organizzativa, i documenti, i dati, le procedure codificate, ed è lì che meriterebbe di essere impiegata senza esitazioni. Resta da chiedersi se sapremo riconoscere quanto sottile sia questo strato, e con quale facilità la padronanza del residuo possa essere confusa con il dominio della sostanza. La questione, prima che tecnica, è interpretativa, e dipende dall’immagine di organizzazione che assumiamo come vera.
Il secondo riguarda la sorte del non detto. Se il fondamento tacito e partecipativo dell’organizzazione (l’apprendistato, la conversazione informale, il giudizio che matura accanto a un maestro) è davvero il luogo in cui l’intelligenza organizzativa vive, allora la domanda pertinente non è quanto si possa automatizzare, ma fino a che punto lo si possa fare prima che quella profondità indicibile cominci ad atrofizzarsi, servita fin troppo alla lettera come la casa allagata del rabbino.
Il terzo riguarda il soggetto della critica. La critica immanente di cui parla Jaeggi, intesa come capacità di un’organizzazione di riflettere sulle proprie pratiche e di riformarle, sembra esigere un punto di vista interno alla forma di vita, che nessun sistema limitato a osservarne le tracce parrebbe in grado di assumere. Ma è una constatazione, non una regola operativa: ciò che resta da comprendere è se, e in quali forme, l’osservazione algoritmica possa informare quella riflessione senza sostituirsi al partecipante che la conduce.
Sullo sfondo di tutti si profila l’interrogativo che li raccoglie: dove abiti, nell’organizzazione attraversata dall’intelligenza artificiale, il soggetto per il quale i simboli vertono davvero su qualcosa. Il prigioniero di Searle mescola simboli senza mai accedere al cinese; il significato entra nella stanza soltanto con un essere capace di intendere. Se il luogo del significato, della responsabilità e dell’appartenenza debba o possa continuare a coincidere con una persona non è una tesi che si lasci dedurre dalla diagnosi: è, semmai, la posta in gioco che la diagnosi consegna a chi le organizzazioni le abita e le governa.
Abbiamo cominciato con la mano del rabbino posata sulla fronte del Golem. Si rammenti come finisce la leggenda: non con la distruzione, ma con una sottrazione. Il rabbino cancella una sola lettera, ed emet, verità, diviene met, morte. È una parabola su quanto sia esiguo il margine tra un servitore fedele e un’inondazione, e su come quel margine sia tenuto aperto da chi conosce la differenza: da chi legge non solo la parola sulla fronte, ma il silenzio che la circonda. L’intelligenza artificiale ha emet scritto sulla fronte. Se quella parola resterà verità, senza scivolare in qualcosa di più letterale e più pericoloso, dipenderà interamente dal fatto che le organizzazioni che la animano sappiano ricordare che la parte più profonda di sé non è mai stata messa per iscritto.
Se un leone potesse parlare, non lo potremmo comprendere. Se un Golem potesse scrivere i nostri promemoria (e può farlo), non dovremmo scambiare il promemoria per il significato. Il significato è sempre stato nella vita. E la vita, in ogni organizzazione degna di questo nome, sta in gran parte nel non detto.
Riferimenti bibliografici
Akrich, M. (1992). The De-Scription of Technical Objects. In W. E. Bijker & J. Law (a cura di), Shaping Technology/Building Society: Studies in Sociotechnical Change (pp. 205–224). Cambridge, MA: MIT Press.
Barnard, C. I. (1938). The Functions of the Executive. Cambridge, MA: Harvard University Press.
Barley, S. R. (1986). Technology as an Occasion for Structuring: Evidence from Observations of CT Scanners and the Social Order of Radiology Departments. Administrative Science Quarterly, 31(1), 78–108.
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of FAccT ’21, 610–623.
Brown, J. S., & Duguid, P. (1991). Organizational Learning and Communities-of-Practice. Organization Science, 2(1), 40–57.
Collins, H. (2010). Tacit and Explicit Knowledge. Chicago: University of Chicago Press.
Dreyfus, H. L. (1992). What Computers Still Can’t Do: A Critique of Artificial Reason. Cambridge, MA: MIT Press.
Faraj, S., Pachidi, S., & Sayegh, K. (2018). Working and Organizing in the Age of the Learning Algorithm. Information and Organization, 28(1), 62–70.
Feldman, M. S., & Pentland, B. T. (2003). Reconceptualizing Organizational Routines as a Source of Flexibility and Change. Administrative Science Quarterly, 48(1), 94–118.
Floridi, L. (2023). The Ethics of Artificial Intelligence. Oxford: Oxford University Press.
Gagliardi, P. (a cura di) (1990). Symbols and Artifacts: Views of the Corporate Landscape. Berlin–New York: de Gruyter.
Harnad, S. (1990). The Symbol Grounding Problem. Physica D, 42, 335–346.
Hatch, M. J. (1993). The Dynamics of Organizational Culture. Academy of Management Review, 18(4), 657–693.
Jaeggi, R. (2018). Critique of Forms of Life (C. Cronin, Trad.). Cambridge, MA: Harvard University Press. (Ed. orig. 2014.)
Latour, B. (1992). Where Are the Missing Masses? The Sociology of a Few Mundane Artifacts. In W. E. Bijker & J. Law (a cura di), Shaping Technology/Building Society: Studies in Sociotechnical Change (pp. 225–258). Cambridge, MA: MIT Press.
Lave, J., & Wenger, E. (1991). Situated Learning: Legitimate Peripheral Participation. Cambridge: Cambridge University Press.
Nelson, R. R., & Winter, S. G. (1982). An Evolutionary Theory of Economic Change. Cambridge, MA: Belknap Press.
Orlikowski, W. J. (1992). The Duality of Technology: Rethinking the Concept of Technology in Organizations. Organization Science, 3(3), 398–427.
Polanyi, M. (1966). The Tacit Dimension. London: Routledge & Kegan Paul.
Schein, E. H. (2010). Organizational Culture and Leadership (4ª ed.). San Francisco: Jossey-Bass.
Scholem, G. (1965). On the Kabbalah and Its Symbolism (R. Manheim, Trad.). New York: Schocken.
Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–457.
Star, S. L., & Ruhleder, K. (1996). Steps Toward an Ecology of Infrastructure: Design and Access for Large Information Spaces. Information Systems Research, 7(1), 111–134.
Weick, K. E. (1995). Sensemaking in Organizations. Thousand Oaks, CA: Sage.
Wiener, N. (1964). God & Golem, Inc.: A Comment on Certain Points Where Cybernetics Impinges on Religion. Cambridge, MA: MIT Press.
Wittgenstein, L. (1953). Philosophical Investigations (G. E. M. Anscombe, Trad.). Oxford: Blackwell.
Zuboff, S. (1988). In the Age of the Smart Machine: The Future of Work and Power. New York: Basic Books.
Autori
Università della Campania Luigi Vanvitelli
