AIS

Introduzione

Una sociologia della robotica è ancora tutta da costruire, ma almeno in Italia ci sono stati degli antesignani, in particolare con Luciano Gallino dapprima e Renato Grimaldi poi che si sono dedicati allo studio dei robot e delle implicazioni sociali della loro presenza fra gli umani. Dal 2019 opera a Torino il Laboratorio di simulazione del comportamento e robotica educativa «Luciano Gallino», così intitolato come riconoscimento a chi per primo, già nel 1983, diede inizio a sperimentazioni sull’intelligenza artificiale e su EGO, un modello computazionale di attore sociale.

Risulta, dunque, privilegiato il rapporto fra robotica ed educazione, come si evince anche dalla recente opera curata dallo stesso Renato Grimaldi dal titolo La società dei robot (Milano, Mondadori, 2022: cfr. in particolare Roberto Cipriani, Mariella Nocenzi, Alessandra Sannella, «A scuola con i robot: come cambiano i contesti sociali con l’intelligenza artificiale», pp. 227-238), in occasione della quale si è pensato di somministrare, il 14 settembre 2020, un’intervista focalizzata a Maria Chiara Carrozza, Professore Ordinario di Bioingegneria Industriale presso l’Istituto di Biorobotica della Scuola Superiore Sant’Anna di Pisa, Deputato nella XVII legislatura (2013-18), Ministro dell’Istruzione, Università e Ricerca (2013-14), Rettore della Scuola Superiore Sant’Anna (2007-13), membro della IEEE Society of Engineering in Medicine and Biology (EMB), e della IEEE Society of Robotics and Automation (R&A), socio fondatore di IUVO S.r.l., che opera nella robotica indossabile per applicazioni biomedicali e industriali, e, dal 12 aprile 2021, prima donna ad essere nominata Presidente del Consiglio Nazionale delle Ricerche.

L’intervistata è autrice di vari saggi, fra cui si segnalano, per un maggiore interesse sociologico, La bioingegneria per il benessere e l’invecchiamento attivo, a cura, con Eugenio Guglielmelli e Riccardo Pietrabissa, Bologna, Pàtron, 2016; I robot e noi, Bologna, il Mulino, Roma, AREL, 2017; The Robot and Us. An ‘Antidisciplinary’ Perspective on the Scientific and Social Impacts of Robotics, Cham, Springer, 2019; Wearable robotics: challenges and trends: proceedings of the 4. International Symposium on Wearable Robotics, (edited by), with Silvestro Micera and José L. Pons, Cham, Springer, 2019.

Ormai la rilevanza strategica del ricorso alla robotica è acclarata e dimostrata a pieno, come si desume dal felice esito dell’intervento di Colossus che il 15 aprile 2019 ha impedito, con i suoi 500 chilogrammi di acciaio ed alluminio, la distruzione di Notre Dame a Parigi, e di quello di robot a raggi ultravioletti, in occasione della pandemia da Covid, in grado di distruggere i virus (oltre i batteri), disinfettando gli ambienti dai germi patogeni e sterilizzandoli da tutti i micro-organismi. Appunto in campo ospedaliero, le previsioni sul valore del settore variano dai 16,7 miliardi di dollari nel 2023 ai 19 miliardi nel 2024 ed ai 26 miliardi nel 2025. Il mercato di tutta la robotica di servizio è stimato essere di 102,5 miliardi per il 2025. L’Italia (oltre 10.000 unità prodotte annualmente) ha un ruolo importante a livello mondiale, come secondo produttore europeo di elementi robotici industriali, subito dopo la Germania (oltre 26.000 unità annuali), e settimo costruttore a livello universale (al primo posto è la Cina, con 290.000 unità nel 2021, seguita da Giappone, con 65.000, Stati Uniti, con 46.000, e poi Corea, Taiwan e Germania).

In previsione dell’intervista, è stata predisposta una batteria di domande da porre alla studiosa: «Quando e come è nato il Suo interesse per i robot? Come si è sviluppato ulteriormente? Qual è la caratteristica più significativa di un robot? Quali sono le applicazioni più utili? Quali sono le prospettive per il futuro? Quali sono le collaborazioni interdisciplinari più idonee? Quali sono le competenze di base necessarie? Vi sono esperienze di collaborazione università-scuola? In che modo la robotica può ridurre le disuguaglianze educative? Si può dire che la robotica è soprattutto evidence-based in base ad efficacia, esperienza, abilità, valori ed atteggiamenti del soggetto umano? In che misura spazio, tempo e relazionalità umano/androide sono importanti nella robotica? Che rapporto c’è fra quantità e qualità? Quali sono i benefici ed i danni possibili? Va gestito l’errore umano? Come si procede per verificare l’efficacia dell’azione comunicativa? Quali rapporti intercorrono fra robotica, informatica ed audio-visualità? Nella robotica sorgono problemi relativi ai valori? Di che tipo? La robotica può essere usata per lo storytelling?»

Come avviene di solito nel lavoro sul campo, nelle interviste che non fanno uso di un questionario non è detto che le domande predisposte siano effettivamente rivolte e nell’ordine prestabilito, in quanto l’andamento dell’interlocuzione, sviluppandosi liberamente, può dar luogo ad altri interrogativi, a considerazioni in corso d’opera, a quesiti imprevisti ed a curiosità non immaginate. Così, infatti, è avvenuto, anche per l’interazione di ben tre ricercatori che hanno sollecitato le repliche dell’intervistata. Pertanto, la stessa dinamica dell’interlocuzione è indicativa di un peculiare work in progress per quanto concerne il campo della robotica. Da quanto emerge dalla trascrizione risulta ormai evidente la necessità di una maggiore attenzione da parte dei sociologi verso un campo destinato a connotare sempre più il presente ed il futuro delle società contemporanee, come mostrano contributi quali quelli già offerti da B. Mutlu, N. Roy, S. Šabanovic, «Cognitive human-robot interaction», in B. Siciliano e O. Khatib (eds.), Springer Handbook of Robotics, Berlin-Heidelberg, Springer, 2008, pp. 1907-34; R. Grimaldi, S.M. Cavagnero, M.A. Gallina e S. Palmieri, Da un modello computazionale di attore sociale alla robotica educativa, in R. Cipriani, C. Cipolla e G. Losacco (a cura di), La ricerca qualitativa fra tecniche tradizionali ed e-methods, Milano, FrancoAngeli, 2013, pp. 91-111; R. Grimaldi (a cura di), A scuola con i robot: innovazione didattica, sviluppo delle competenze e inclusione sociale, Bologna, il Mulino, 2015; D. Liberati, «Robot e intelligenza artificiale: tecnologie per l’umano», Munera, 8(3), 2019, pp. 37-43; R. Grimaldi, S. Brignone, L. Denicolai e S. Palmieri, «Intelligenza artificiale, robot e rappresentazione della conoscenza», in M. Nocenzi e A. Sannella (a cura di), «Il conflitto sociale nell’era dei robots e dell’intelligenza artificiale», The Lab’s Quarterly, XXII, 2, aprile-giugno, 2020, pp. 143-61.

Intervista

Nocenzi: Quando e come è nato il Suo interesse per i robot?

Carrozza: Il mio interesse per la robotica è nato quando avevo un’età intorno ai 35 anni. Avevo lavorato prevalentemente sulla microrobotica e su microsistemi e microsensori, quindi, ero comunque nell’area della bioingegneria applicata e della chirurgia, in una fase della mia carriera in cui grosso modo stavo diventando professore associato. Ho deciso di cambiare e di occuparmi di bioingegneria della riabilitazione e, quindi, anche di robotica per l’assistenza personale e per la riabilitazione perché volevo essere utile alle persone più fragili. Volevo sviluppare dispositivi, sistemi che potessero aiutare le persone a camminare nuovamente, a manipolare gli oggetti, a parlare, insomma tutto quello che riguarda l’aiuto per la disabilità.

Nocenzi: Quindi questo Suo interesse per il mondo dei robot è nato in un ambito specifico, quello medico.

Carrozza: Sì, sì, sicuramente medico. Già ero ben orientata nell’ambito della medicina perché comunque vi avevo sempre lavorato come bioingegnere.

 

Nocenzi: Quindi potremmo già dire che accanto al Suo interesse scientifico, vicino alle Sue specializzazioni in bioingegneria c’era forse anche qualche tratto che potremmo associare all’etica del fare qualcosa a favore di chi ne ha più bisogno. Questo è un elemento che ci teniamo ora come anticipazione e poi magari potremo sviluppare nella seconda parte dell’intervista. Finora ci ha presentato un po’ gli inizi del Suo percorso scientifico e di formazione. Nell’ambito di queste prime ricerche, ha trovato modo di approfondire altri aspetti?

Carrozza: Dunque, io ho iniziato per dir la verità con il PhD in Ingegneria a fare ricerca. Successivamente, mi sono occupata di microingegneria, poi e gradualmente sempre più di biomedicalità e, quindi, di robotica biomedica. Ovviamente gli ambiti di ricerca di cui mi sono occupata sono da una parte più «scientifici» nello specifico, come lo studio del tatto per esempio, applicativi nel senso di sviluppare sistemi robotici per la riabilitazione e l’assistenza personale. Non so se ho risposto alla domanda, se l’ho capita bene.

 

Nocenzi: Quali ambiti specifici ha sviluppato?

Carrozza: Semplicemente, dal punto di vista scientifico, come anche scritto nei miei articoli, nella mia produzione scientifica, studio e modellazione del tatto, dei sensi per la manipolazione della mano, poi robotica indossabile attraverso alcuni applicativi.

 

Nocenzi: In base alla Sua esperienza di ricerca c’è un elemento più degli altri significativo rispetto ai robot e al loro impiego?

Carrozza: Nel campo generale, che non riguarda me sicuramente, uno dei settori, meglio ancora dei prodotti della bioingegneria – nel senso di ciò che è stato costruito con la bioingegneria – per me più affascinante è quello che si occupa dell’impianto totale di protesi auditiva che ha permesso ai bambini che erano sordi profondi di sentire un’altra volta. Questo è un successo della bionica e della bioingegneria ovunque riconosciuto. Per quanto riguarda me – anche se è sicuramente difficile parlare di sé stessi e dovrebbe farlo qualcun altro – posso dire di aver aperto e poi tracciato tante piste che sono state seguite dai miei allievi. Io mi sento veramente un docente, non tanto perché faccio tutto in prima persona, ma anche perché apro strade, come avvenuto per esempio nel campo delle mani artificiali e degli esoscheletri per i quali abbiamo raggiunto risultati scientifici notevoli. Per gli esoscheletri si può dire che ormai non sono solo prodotti della ricerca, ma anche commercializzati. Quindi, vedere un’idea che poi si sviluppa e, anche se non la potrai sfruttare pienamente e interamente in prima persona, l’hai avviata con le tue ricerche, è una soddisfazione enorme.

 

Nocenzi: L’utilità specifica per gli umani di questa applicazione della robotica è evidente: nel Suo percorso di ricerca attraverso la robotica è applicata alle mani, all’udito…

Carrozza: L’udito non è una cosa mia.

 

Nocenzi: Sì, sì certo, però, avendolo sottolineato probabilmente la ritiene una scoperta importante in generale, anche se non frutto delle sue ricerche.

Carrozza: Questa è certamente l’acquisizione più importante della robotica oggi.

 

Nocenzi: Vedendo, invece, a partire da oggi e verso il futuro, rispetto alle applicazioni più utili della robotica, quali previsioni si sente di fare?

Carrozza: Sicuramente, la robotica indossabile produrrà dei dispositivi che fino a qualche anno fa erano poco sviluppati, mentre oggi stanno cominciando a uscire come prodotti e, quindi, bisognerà vedere sicuramente per l’arto superiore se potranno sostenere il peso. L’assistenza al cammino è il risultato più complesso da ottenere, ma gli esoscheletri stanno sicuramente migliorando. Quindi la robotica indossabile come supporto al cammino è uno dei settori rilevanti, al pari della robotica utilizzata per sostituire gli umani, per esempio a fini di attività di sanificazione. L’abbiamo visto durante il periodo del Covid, durante il quale sono state tracciate delle piste che verranno poi sviluppate sicuramente nel futuro e potranno dare i loro frutti industriali, commerciali e, spero, anche posti di lavoro.

 

Nocenzi: Ci sono anche studi proiettati verso il futuro, ma già consolidati nel passato, secondo Lei? Questo esempio della robotica per sanificazione con collegamento all’emergenza pandemica che viviamo è evidente.

Carrozza: Dalla Scuola Sant’Anna di Pisa è stato realizzato e già commercializzato un esoscheletro per l’arto superiore per gli operai del manifatturiero che, di fatto, opera la compensazione della gravità. Stanno uscendo sempre di più dispositivi analoghi, per esempio per i mielolesi – le persone che hanno lesioni spinali – e che offrono loro il sostegno per la riabilitazione al cammino. Insomma, c’è un grande progresso e le previsioni di mercato fornite dalla Federazione Internazionale della Robotica, quindi dai produttori di robot, dicono che sicuramente nel campo degli esoscheletri e della robotica, che loro chiamano «di intrattenimento», cioè i robot per dialogare, si individuano settori in evoluzione. Oltre a questo, c’è stato il picco di interesse per la robotica mobile, per la sanificazione, però la robotica mobile – per esempio il robot artificiere – per le applicazioni militari esiste già. Ci sono degli ambienti e ambiti molto pericolosi per gli umani dove il robot fa il suo mestiere, va in sostituzione. La sanificazione è uno di questi e si tratta di un campo di grande interesse scientifico.

 

Nocenzi: Noi, come sociologi, siamo interessati soprattutto alle interconnessioni fra discipline e anche il mondo della robotica può favorirle, anche se apparentemente non sembrerebbe così evidente. Per esempio, che cosa può dire il sociologo rispetto alle applicazioni di cui Lei parlava? Generalmente, si potrebbe pensare che il suo contributo possa essere minimo. Però, Lei stessa prima parlava del robot in presenza o del robot che si relaziona nell’espletare le azioni della vita quotidiana. Ecco, proprio pensando a questi «prodotti» della robotica, Le chiedo se le collaborazioni disciplinari ci sono e, se ci sono, se sono anche utili, specie per le prospettive future della robotica.

Carrozza: Secondo me sì, proprio perché siamo di fronte a due fatti: una rivoluzione industriale importante, dovuta ad una seconda ondata di automazione legata alla robotica e all’intelligenza artificiale, specie per la combinazione di robotica e intelligenza artificiale. Tutti i processi sono digitalizzati, monitorati e l’intelligenza artificiale fornisce quella che si chiama business analytics che è importante. Oltre a questa rivoluzione industriale, abbiamo anche una rivoluzione civile nel senso che con la trasformazione digitale abbiamo un cyberspace entro cui avviene la maggior parte delle transazioni economiche e finanziare e di tutte le relazioni sociali. Ritengo che per un sociologo studiare gli effetti della trasformazione digitale, quindi questa relazione tra il cyberspace e il mondo reale, sia molto interessante. Sicché una delle caratteristiche di quanto ho descritto, ossia che l’intelligenza artificiale, attraverso le cosiddette tecnologie abilitanti, entri nella società, nei servizi sociali come nella sala operatoria, nelle tecniche di riabilitazione come dentro casa, è rilevante. Cosa c’è di più interessante dal punto di vista sociologico che vedere gli effetti di avere un robot che fa l’aspirapolvere in casa, o di un robot che pulisce la piscina o che taglia l’erba? Il tutto con un uso reso estremamente facile dal plug&play. Ieri ero in piscina che nuotavo e l’operatore della piscina ha buttato in acqua il robot per pulire perché ero l’ultimo cliente. Quando l’ho visto, ho pensato che ormai questa è una facile operazione quotidiana per un operatore che, invece di utilizzare manualmente una rete, diventa controllore di un dispositivo che fa questo lavoro. Passando da un ambiente pubblico ad uno privato come la nostra casa nella quale sono «agenti» molti robot come quello aspirapolvere, se ne può ben comprendere la rilevanza. Io la chiamo socializzazione della robotica. Nel momento in cui la robotica diventa di consumo, consumer robotic, c’è molto da studiare per le scienze sociali.

 

Nocenzi: In base alle Sue esperienze scientifiche, quali sono gli esempi di interdisciplinarità che Lei ha direttamente conosciuto?

Carrozza: Io ho lavorato con chirurghi e nel corso di quella collaborazione ho anche prodotto un brevetto ortopedico, oltre ad un altro brevetto americano. Il mio primo brevetto americano, quindi internazionale, è stato con un chirurgo endoscopista che poi ha dato il via a un nuovo modo per l’endoscopia del colon. Poi ho lavorato soprattutto con neurofisiologi e neuroscienziati della riabilitazione. Ho cominciato a collaborare anche con i fisiatri e oggi sono l’unico direttore scientifico non medico. Certamente, solo una persona che sia totalmente immersa in un ambiente clinico e se ne occupi può dirigere la ricerca clinica perché ci vogliono rigore e disciplina. Non è che io possa entrare nel lavoro del neurologo, per esempio, però posso indirizzare il lavoro di ricerca, questo sì. Lavorare in modo interdisciplinare significa essere molto rigorosi, non sconfinare nell’altra disciplina andando a dire a chi lavora in un altro settore cosa deve fare. Però, si possono vedere i problemi senza barriere disciplinari – io dico in modo «antidisciplinare», anche se la soluzione poi ha bisogno di competenze.

 

Nocenzi: Nella seconda parte dell’intervista, riprendendo quanto detto nell’introduzione rispetto alla robotica nella scuola, Le volevamo chiedere se è a conoscenza di esperienze di collaborazione fra la scuola e l’università in questo ambito.

Carrozza: Le collaborazioni tra scuola e università sono troppo poche. Troppo spesso si fermano alla scienza della formazione che è importante, ma non è tutto. Io sono sempre stata a favore di una formazione molto rigorosa nella propria disciplina. Per insegnare matematica bisogna comunque aver studiato bene la matematica e non solo applicarla nel percorso di ricerca. Io stessa, quando mi trovo a insegnare in prima persona, verifico che ho difficoltà a insegnare quello che non conosco bene e così quando devo divulgare l’esito di una ricerca che non ho compreso fino in fondo. Sinceramente, ritengo che insegnare fin dalla scuola primaria significa dominare quello che si insegna, lo si deve padroneggiare. Un secondo elemento è che l’interazione tra scuola e università dovrebbe sempre basarsi sul rispetto delle due tipologie di insegnamento: per me dovrebbero essere molto vicine, come avveniva in passato. Io sono figlia di due persone che avevano una formazione umanistica. Mio padre era professore di giurisprudenza, ma aveva iniziato nella scuola e poi, come si usava ai tempi, era passato all’università – lui aveva molti più anni di me perché ero l’ultima figlia. Mia madre, invece, era una letterata. Nel campo degli studi umanistici, l’esperienza a scuola non era vista completamente separata dall’insegnamento universitario. Oggi, io potrei anche fare delle lezioni a scuola – nessuno me lo chiede – ma non è ovviamente impossibile che le faccia. Certamente, ogni ciclo scolastico ha le sue specializzazioni e le sue caratteristiche, ma questo non significa che non ci possono essere degli scambi frequenti e anche delle possibilità di beneficiare l’uno dell’altro tipo di insegnamento, perché questo favorirebbe, in una fase oggi molto critica, il legame tra la scuola media di secondo grado e l’università, oltre quanto bene si fa già rispetto all’orientamento. Invece, per esempio, in altri Paesi come la Francia, nei licei c’è l’école préparatoire per gli studenti che vogliono entrare nell’école normale. Quanto si fa nella scuola di secondo grado negli ultimi anni è molto importante in vista delle prospettive future. Sia nella Scuola Sant’Anna, così come nella Facoltà di Ingegneria all’Università di Pisa vedo che fra gli studenti chi ha fatto una buona scuola aveva degli insegnanti ottimi di matematica e fisica, per il mio campo, si trova bene e vola agli esami. Così vale per biologia. Ecco io vedo la necessità di un legame fra scuola e università da questo punto di vista, e potremmo andare a parlare di robotica educativa: questo è un esempio di cui anche la scuola primaria beneficerebbe nell’attuare uno scambio fra livelli di istruzione utilizzando questo tema.

 

Nocenzi: Lei ha avuto anche un’esperienza istituzionale. Quali sono le maggiori criticità che ha riscontrato negli ambiti che stiamo trattando?

Carrozza: Devo fare alcune considerazioni: la prima è che gli insegnanti con cui ho avuto a che fare durante la mia attività di ministro sono molto colti e anche molto esigenti. Quando parli con l’insegnante, sai che hai di fronte una persona culturalmente e intellettualmente molto ma molto complessa. Non gli puoi raccontare cose non vere e questo è un po’ il problema che ho riscontrato nei miei predecessori e successori, cioè la mancanza di umiltà nel rapportarsi con persone che hanno un percorso di formazione, come mostra il loro curriculum, molto, molto solido. Quindi è una categoria con cui bisogna dialogare mettendosi alla pari, non in posizione di superiorità. Secondo punto è che la normativa per l’accesso alla formazione e l’assunzione degli insegnanti cambia da ministro a ministro e questo non facilita il percorso. Io ho figli quasi trentenni che hanno colleghi e molti amici che hanno fatto questo percorso dell’insegnamento e molto spesso mi chiedono di parlare, perché magari si preparano, per esempio studiando il TFA, poi il TFA viene abolito, eppoi si preparano un altro po’ e intanto le competenze richieste diventano altre. Come si fa a pensare che dei giovani motivati possano di anno in anno avviare percorsi diversi? Non è una questione di destra e sinistra. Ci sono ministri che fanno confusione. Ma i ragazzi vogliono avere un percorso chiaro e questa indotta dalla pandemia è un po’ un’occasione per modificare le condizioni in cui si esercita l’insegnamento e per pensare che gli insegnanti fragili, per esempio, che hanno una certa età, si confrontino con questa nuova emergenza e possano essere indirizzati anche altrove o al tutoraggio da casa. Questa è un’occasione per far entrare giovani preparati che hanno anche meno fragilità, rispetto a quelle di buona parte del corpo docente, più avanti con gli anni, che può così svolgere in maniera differente l’insegnamento. Il difetto principale della scuola è la staticità della figura del docente che è entrato per 27/28 anni nella scuola, ha fatto un percorso e fa sempre la stessa cosa fino alla fine. Invece dopo i 50 anni – oggi io ho 55 anni quasi – so bene che non è la stessa cosa che insegnare a 35. Chiudo con un esempio. Quando io sono rientrata dopo l’esperienza politica, mi sono rimessa ad insegnare che è quello che sapevo fare e ho detto: io non posso fare gli stessi insegnamenti tecnici che facevo 20 anni fa. Bisogna insegnare una cosa che so insegnare, ma non posso insegnare la stessa cosa che insegna un giovane di 25 anni, è così. C’è l’età, l’esperienza, c’è il percorso che è stato seguito, certamente. Ma se a uno gli chiediamo per trent’anni di fila di insegnare la stessa cosa, con lo stesso metodo, è ovvio che dopo il ventesimo anno non sarà entusiasta come il primo, no? Mi sembra ovvio. Non so se ho spiegato bene questa cosa.

 

Nocenzi: Assolutamente sì! Soprattutto se parliamo di robotica inserita nel mondo della educazione, della formazione. In tal senso, avevamo anche pensato di chiedere in che modo secondo Lei, proprio a partire dalla Sua esperienza sia universitaria che politica – tutte esperienze dirette, familiari, personali –, la robotica può favorire in prospettiva futura la didattica inclusiva? Quando parliamo di robotica inclusiva non intendiamo solo quella a favore degli studenti e delle studentesse, ma anche a favore del corpo degli insegnanti a cui Lei faceva riferimento. Su questo ultimo punto ha già parzialmente risposto.

Carrozza: Sì, secondo me la robotica può essere uno strumento straordinario di creatività, perché può essere importante per avvicinare a una preparazione scientifico-tecnica i ragazzi che studiano materie umanistiche e hanno bisogno di una preparazione scientifico-tecnica. Non è che dico che uno deve per forza studiare ingegneria dell’automazione, bioingegneria o simili, ma che la robotica deve essere vista come la scienza che fornisce strumenti di varia utilità: il tablet non è solo per ingegneri, ma ci si può leggere un libro, creare una app, insomma ci si possono fare tante cose. Così il robot è uno strumento tecnologico: ci sarà qualcuno che studia il robot, ma ci saranno anche tanti che lo useranno per l’apprendimento. E per l’apprendimento, nella robotica educativa, stanno nascendo tante diverse applicazioni perché è molto versatile, anche per insegnare in modo creativo la matematica, oppure, per insegnare a fare la progettazione oppure per insegnare la biologia. C’è molta varietà e quindi può essere inclusiva nel senso che può permettere modi innovativi di insegnare a bambini che magari hanno difficoltà. Quindi può essere uno strumento universale per tutti, bambine e bambini, ma può essere anche uno strumento specifico, per esempio per i bambini con la dislessia o altre forme di criticità nell’apprendimento. Ricordiamoci che la disabilità è una caratteristica della società, non della persona. Quindi sta a noi ridurre le problematiche della disabilità sviluppando lo strumento giusto per quella persona che ha delle abilità diverse che non gli consentono un apprendimento adeguato con gli strumenti più diffusi.

 

Nocenzi: Secondo Lei, anche valutando quando può essere inclusiva la robotica, possiamo affermare che essa sia soprattutto evidence-based, cioè molto legata all’efficacia, all’esperienza, più forse, come molti affermano, che non a valorizzare gli atteggiamenti umani, i valori? Questo non sembra essere il Suo approccio. Dall’inizio di questa intervista Lei è molto attenta a sottolineare l’utilità sociale, a rilevare le difficoltà della valorizzazione delle differenze e le disuguaglianze conseguenti. Al contrario, pare essere preminente questo evidence-based approach. Eppure non dovrebbe essere considerato l’unico e il prioritario: è d’accordo?

Carrozza: Evidence-based approach significa che io oggi ho riscontri sperimentali e scientifici che mi dimostrano che, in quel caso particolare, quello strumento può essere efficace, sicuro e utilizzabile. Questo, secondo me, comunque, deve essere sempre presente perché ogni elemento deve essere misurato: quello che io propongo è l’utilizzo della robotica e anche una valutazione dell’efficacia dello strumento robotico. Quindi, se noi vogliamo che uno strumento basato sulla robotica si diffonda veramente, dobbiamo favorire un evidence-based nel senso di misurare se effettivamente da un punto di vista soggettivo e oggettivo ha portato dei miglioramenti, quindi bisogna valutare. Nella valutazione, però, devono essere comprese misure che, nel caso della robotica per la disabilità, sono relativamente semplici. Se devo avere un ausilio per il cammino e uno cammina meglio o ha un costo metabolico inferiore, sicuramente il dispositivo è efficace. Nel caso, però, della valutazione dell’apprendimento di un bambino in un ambiente scolastico, c’è anche un valore soggettivo e motivazionale da valutare. E, quindi, introdurre nell’ambito dei parametri di valutazione gli aspetti di accettabilità, usabilità, godimento, fornisce evidenze che dobbiamo andare a valutare.

 

Sannella: Lei ha parlato dell’associazione intelligenza artificiale-robot. Secondo Lei questo può mettere in difficoltà più la persona/educatore in termini di apporto delle competenze? Qual è il ruolo che può avere poi nel momento in cui c’è una robotica così intelligente rispetto all’educazione prima dell’introduzione della robotica e dell’intelligenza artificiale? C’è ancora un ruolo che può avere l’essere umano o possiamo essere sostituiti così facilmente – che è anche un po’ la paura che provano gli umani?

Carrozza: Sì, qui si entra nell’ambito della percezione. Se da un punto di vista analitico possiamo calcolare quanti posti di lavoro possono essere cambiati mediante l’introduzione dei robot e, quindi, andare a vedere se sono stati cancellati posti di lavoro, con una valutazione da economista del lavoro, la percezione richiede un’altra analisi. Sottolineo che la robotica è in un certo senso automazione fisica: il braccio robotico serve al montaggio e l’automazione cognitiva, se combinata con l’intelligenza artificiale, alleggerisce una parte del lavoro, lo sostituisce, lo supporta. Secondo me la robotica per definizione è nata proprio per rendere automatico un processo, sostituire un atto fisico, grave, pesante, fastidioso, usurante e quindi andare a sostenere il lavoro umano nel manufacturing. Ora se poi questo possa essere estremizzato al punto da porsi in conflitto con il lavoro, da azzerare quello umano e da sostituirlo solo con quello del robot – per ora tecnologicamente non è possibile – si profila un tema di economia del lavoro e anche sociale. Dal punto di vista delle percezioni, si può dire che questa minaccia noi la avvertiamo. In realtà, c’è sempre stata, dalla diffusione dei telai della prima rivoluzione industriale ad oggi. Un tema molto importante, anche quindi difficile da affrontare in poche parole. La mia posizione è pragmatica. Si utilizzano i robot laddove ovviamente possono servire e si studiano i rapporti tra i robot e l’intelligenza artificiale, ma per ora non sono sicuramente una minaccia perché le prestazioni sono inferiori a quelle umane.

 

Cipriani: In questi giorni, stranamente, mi sono arrivate a iosa tutta una serie di informazioni sulla robotica. Alcune le ho anche inoltrate ad Alessandra [Sannella] e a Mariella [Nocenzi]. Quello che mi colpisce è il ricorso a modalità esemplate sulla natura. Come dire: natura docet! Allora proprio da un punto di vista sociologico, domando alla professoressa Carrozza se da parte degli esperti di robotica questa sia una necessità, cioè, di avere modelli che già ritroviamo in natura e che vanno ad essere riproposti poi per l’utilizzo applicativo. Lo studioso di robotica ha in mente l’obiettivo di rendere anche più accessibile in termini di immagine il tipo di prodotto che va poi a proporre, oppure questo diventa secondario rispetto agli obiettivi di tipo tecnologico?

Carrozza: La domanda è interessante e anche complessa. Diciamo che la biorobotica ha tre pilastri: il primo è quello di studiare i fenomeni naturali per comprenderli. Il biorobot che, per esempio, studia la locomozione degli animali, degli umani bipedi e, quindi, modella, sviluppa e riproduce la locomozione per comprenderla meglio. E in questo senso è l’idea della riproduzione della soft robotics: studiare come il polpo afferra con il tentacolo può essere sviluppato dal punto di vista del controllo motorio della bioingegneria e applicarlo. Il secondo pilastro è la riproduzione del vivente sia a un livello micro che macro – perché esistono il quadrupede, il bipede o il grillo che è come lo vediamo. Ciò che riesco a comprendere analizzando il modello naturale mi è utile per sviluppare dei robot che possono essere impiegati. Quindi, studiando la mano si sviluppa la protesi di mano, studiando il salto del grillo si possono fare dei robot che adottano gli stessi principi di locomozione. Si studia il pesce o il polpo e da un elemento naturale se ne crea uno artificiale, come può essere un pesce artificiale che serve per esempio per il monitoraggio ambientale, o l’esoscheletro che si basa su studi biomeccanici per supportare la riabilitazione. Poi c’è il terzo pilastro, ossia fare qualcosa basato sui primi due pilastri, ma che sia utile alla società. Quindi, per esempio, la robotica educativa, la robotica per l’assistenza personale o i robot per monitorare l’inquinamento, o altro che porti innovazione sociale e quindi può essere utile per raggiungere un certo obiettivo di sviluppo sostenibile. Questi tre pilastri devono essere visti integrati. Ovviamente, non è che io faccio il cane robotico perché lo voglio vendere, ma faccio il cane robotico perché voglio capire la locomozione a quattro zampe. Poi, ovviamente, intrecciato anche con il fatto che qualcuno potrà dire che è stata studiata la mobilità quadrupede e ne è emersa una migliore comprensione e applicabilità del modello di locomozione, si potrà decidere di fare un giocattolo, un robot di accompagnamento che possa essere simile a un cane, utile nella pet therapy basata su uno studio della robotica. Ecco perché vengono prodotti così human life robots. Ci sono, comunque, sempre questi tre pilastri integrati.

 

Cipriani: Fino a qualche tempo fa sembrava che la tematica della intelligenza artificiale non fosse più, come dire, di moda, al centro dell’attenzione. Adesso con l’avanzare della robotica sembra essere risorta l’intelligenza artificiale tant’è vero che spesso le due cose vengono accoppiate, diventano quasi una sintesi. Allora vorrei capire se sia possibile definirli più puntualmente.

Carrozza: L’intelligenza artificiale, secondo me, non è che è andata di moda. Si è sviluppata e ha fatto dei progressi notevoli nel campo del machine learning e, quindi, tecnologicamente e scientificamente ha raggiunto risultati enormi se rapportati ai tempi per realizzarli, per allenare, per esempio, i sistemi di deep learning. Il punto fondamentale, secondo me, è che sono state ottenute conquiste tecniche che hanno permesso di utilizzare quegli strumenti per rendere più rapido il processo di apprendimento e, quindi, facilitare alcuni compiti che prima l’intelligenza artificiale non consentiva, come, per esempio, il riconoscimento facciale. La combinazione di questi strumenti con la robotica ha potenzialità enormi perché dà la possibilità di ottenere l’automazione di ogni processo (riconoscimento di volti, di voci o processing dei dati in tempo reale). La robotica può mettere il corpo del robot che svolge anche il compito fisico: si utilizza molto in robotica e si parla di bot, cioè di sistemi robotici del cyberspace che non sono altro, però, che evoluzioni algoritmiche. Il bot è un algoritmo che oggi consente di svolgere molti compiti che prima non potevano essere fatti.

 

Cipriani: Ho avuto in questi ultimi mesi una esperienza dalla quale speravo di ottenere molto e, in realtà, ho raccolto un pugno di mosche, come si suol dire. Cito esplicitamente il caso. Credo che in Italia solo voi a Pisa e la Cattolica di Milano disponiate di questo programma che si chiama YEWNO. Si tratta di un software dedicato a raccogliere quanti più dati consultabili nel minor tempo possibile per qualunque disciplina in modo tale da consentire allo studioso che voglia restare aggiornato anche sull’ultima pubblicazione e ottenerne i riferimenti essenziali. Si può definire una macchina che lavora su centinaia di milioni di testi. Allora, lavorando anche sulla linguistica computazionale, peraltro con i Suoi colleghi del CNR di Pisa, per vedere a che punto questo programma potesse funzionare, mi sono accorto che il programma era in grado di fare delle elaborazioni raffinatissime, con una grafica bellissima, persino accattivante però, rispetto a quello che mi aspettavo, mi è stato spiegato che avremmo dovuto avere tantissimi testi e che bisognava fare operazioni di machine learning, per mesi e mesi, con esperti super specializzati, roba da 2.000 euro all’ora o 2.000 dollari, perché la cosa andava svolta negli Stati Uniti e, lo possiamo dire, non era fattibile. Ecco, mi domando, e in fondo, credo, anche voi: mettere insieme robotica e intelligenza artificiale vi ha fatto scontrare con risultati che potremmo dire inutili perché non producono nessun risultato, ma che diventano allo stesso tempo efficaci perché ci dicono che cosa non bisogna fare. Come dire, l’errore che insegna. Le è mai capitato? [Nel frattempo, la società promotrice di YEWNO è fallita, a seguito di una scarsa risposta del mercato costituito dal mondo della ricerca scientifica.]

Carrozza: Dunque, io non conosco questo software.

 

Cipriani: Indipendentemente dall’esempio…

Carrozza: Nella ricerca capita che si seguono delle strade per le quali si impiega tanto tempo e sembra che lo si sia sprecato: in realtà, fa parte della ricerca, ci sono dei percorsi che poi non possono essere proseguiti, quindi, diciamo che è normale quando hai a che fare con cose nuove. È come il vaccino: lo sviluppo del vaccino per il Covid, quando non ci sono state reazioni avverse, magari ha visto necessario molto più tempo per svilupparlo di quello che ci si aspettava oppure non si è andati neanche avanti. Nel frattempo, però, si sono imparate cose nuove facendolo, che sono state magari utili per sviluppare il vaccino seguendo un altro percorso.

 

Cipriani: Di questo ha un esempio specifico da citare?

Carrozza: Ma non lo so. Forse uno tecnico, molto tecnico.

 

Cipriani: Potrebbe spiegarlo, giusto per capire?

Carrozza: Per anni abbiamo tentato di creare certi principi di attuazione in robot basati sulle leghe a memoria di forma e poi ci siamo accorti che comunque non avevano le tempistiche sufficienti per poter essere usati come motori nei robot. Per i motori dei robot si è tentato per tanto tempo di innovare, di cambiare principio, ancora oggi lo si fa. Io ho iniziato nel 1991, oggi siamo nel 2020 e ancora oggi i motori elettrici sono sempre i migliori. Per cui tutti i tentativi che abbiamo fatto per usare motori non elettrici, a lega memoria di forma, pneumatici, idraulici ecc. per ora non hanno portato a risultati soddisfacenti.

 

Cipriani: Lo vediamo sui monopattini, sono straordinari.

Carrozza: Sempre elettrici, infatti!

 

Nocenzi: Quello dell’errore cui ha fatto riferimento Cipriani rispetto all’errore che insegna è visto spesso, soprattutto nel dibattito delle scienze sociali, anche da un altro punto di vista, ossia che i soggetti umani orientano i loro comportamenti sulla base dei valori di riferimento. Gli stessi guidano anche le azioni umane nella ricerca e, nel caso specifico, di quella robotica nella quale troviamo dei biases. Un classico esempio è quello del bias di genere. Gran parte delle esperienze hanno dimostrato che dietro il robot c’era un essere umano, con precise idee sulla questione di genere, tali da orientarlo nella costruzione del robot e da orientare le azioni del robot: questo è il bias. Ecco, rispetto a questo tema, specie dal momento che parliamo di robotica inclusiva nell’ambito educativo, cosa ne pensa, anche sulla base delle sue esperienze? Esistono? Li possiamo evitare?

Carrozza: Secondo me questo è proprio il ruolo del sociologo così come del neuropsicologo. Se si parla di un robot per curare l’autismo, andranno fatte delle valutazioni neuropsicologiche che non può fare un robotico. Allo stesso modo, se noi sviluppiamo dei robot per intrattenimento, intendo quei robot che si fanno per esempio come totem nelle stazioni, che indicano la strada, o per svolgere le funzioni di servizio, è molto importante il lavoro di chi studia nelle vostre discipline per aiutarci a sviluppare robot senza bias e non farne un trasmettitore di bias, di messaggi sbagliati. Quindi, è molto importante la ricerca nel campo dell’etica, perché aiuti a programmare questi robot affinché non violino i diritti delle persone, quindi siano utilizzati al meglio e non per spiare o per rubare dati. Molto importante è, dunque, il lavoro di chi si occupa della relazione fra la tecnologia e la società e delle trasformazioni della società che ne possono conseguire. Secondo me, questo è proprio il punto. Com’è fatto un robot che per esempio sta a scuola? È un problema solo di marketing o di design nel senso che deve avere un design accattivante o un prezzo accessibile, o c’è anche un problema sociologico di come questo robot si relaziona nell’ambiente scolastico? È necessario studiare come deve essere, il suo profilo, la piacevolezza della sua immagine, ma c’è una implicazione profonda nelle sue azioni che deve vedere lavorare insieme il designer con il sociologo. Cosa è avvenuto quando ci sono state le prime invenzioni? Qui a Milano c’è il Museo del Design: mi chiedo, quanto c’è di sociologia nell’evoluzione nel design? E quanto è importante che un’interfaccia, per utilizzare un robot, sia comprensibilmente accessibile a tutte le categorie sociali, a tutti i livelli culturali e che non sia problematico? Si tratta di elementi che non sono solo etici, ma finora hanno collaborato solo gli etici. Strategia che è corretta. Anche io ci ho lavorato tanto, però, secondo me, ci deve essere anche un approccio laico, di interesse pubblico, che viene scambiato per etica, ma è qualcosa di diverso. Se noi parliamo dell’interesse pubblico connesso allo sviluppo di un oggetto, nel senso che non deve ledere l’interesse pubblico, ma anche del singolo cittadino, lì la sociologia può avere voce.

 

Nocenzi: Ma siamo pronti in Italia secondo Lei?

Carrozza: Secondo me c’è un problema di percezione dell’importanza della sociologia, per ragioni storiche, culturali. Non ho la possibilità di entrare in questo argomento adesso, però, ci sono dei pregiudizi a volte nei confronti della sociologia che devono essere combattuti, mentre c’è più chiarezza negli Stati Uniti. Un sociologo americano viene considerato completamente titolato a parlare di questi temi. Un sociologo italiano viene guardato con sospetto: sarà di sinistra? Sarà cattolico? Sarà di destra? Non lo so come sarà, perché tutto qui in Italia viene sempre un po’ scambiato per una questione politica. Secondo me, invece, la questione è politica nel senso nobile del termine: è di interesse pubblico.

 

Cipriani: Professoressa Carrozza un attimo, posso?

Carrozza: Sapevo che avrei provocato una reazione.

 

Cipriani: Una semplice domanda come dire, da questionario da distribuire ai robotici? Lei ha mai sentito parlare di Massimo Negrotti?

Carrozza: No.

 

Cipriani: Beh, è uno che ad Urbino per decenni si è interessato di robotica e intelligenza artificiale. Questo è il problema: che la nostra Accademia non favorisce il contatto interdisciplinare. Forse conosce, però, Giuseppe Longo di Trieste?

Carrozza: Mi sembra…

 

Cipriani: Ecco, questo mi conferma, ancora, che siamo indietro anche avendo delle persone che per fortuna sono in grado di colloquiare, non dico alla pari, ma, insomma, avendo delle competenze adeguate. Chiusa la parentesi.

Carrozza: Però, devo dirle, per esempio, che una volta mi sono trovata con una importante società che produce robot negli Stati Uniti ad una mega conferenza e lì ha presentato la sua relazione un professore di storia medievale di Harvard. «Arriva lui, il creativo, parla lui» sussurravano gli organizzatori. Ebbene, diceva cose abbastanza banali. Eppure sembrava che arrivasse il vate. E io ho detto: ma sapete quanti professori di storia medievale sono in grado di fare delle considerazioni anche più evolute fra quelli che abbiamo in Italia e manco li ascoltiamo? Il problema della sociologia, così come di tutte le altre scienze umanistiche, è che dovremmo imparare a valorizzarle di più. Per me con la robotica sociale c’è una ripresa dell’importanza della componente umanistica perché pone talmente tali interrogativi nel rapporto uomo-macchina che noi non potremo affrontarli ingegneristicamente. Quindi, questo è il vostro momento.

 

Cipriani: Sono d’accordo, ma il problema è sempre di formazione. Come sanno bene le mie colleghe cui ho inviato un video qualche giorno fa, non conosciamo la matematica perché non si comincia dall’età di un anno a lavorarci. Ci arriviamo solo a sei anni, se tutto va bene, mentre invece la parola la impariamo subito. Il bambino, la bambina subito usano la parola. Perché non usano i numeri altrettanto bene? Lo stesso discorso può essere fatto anche per la robotica e per qualunque altra scienza. Speriamo nelle nuove generazioni, che hanno un contatto molto più diretto con i robot in tutte le loro forme.

Nocenzi: L’ultimo punto ci riporta a quanto finora visto rispetto alle scienze sociali perché tocca un’altra delle aree scientifiche sociali molto associate alla robotica che è quella della comunicazione. Cipriani era molto attento a un aspetto, che oggi si dice «vada molto di moda», ma è anche utile e interessante dal punto di vista scientifico per le scienze sociali, ossia lo storytelling che racconta la robotica. Lei che percezione ne ha? Qual è la Sua esperienza su questo tema, partendo più generalmente dalla descrizione di quali rapporti ci sono tra la robotica e l’attività comunicativa che Lei ha potuto vedere nel corso della Sua attività scientifica?

Carrozza: Per storytelling intende che la robotica può essere uno strumento per lo storytelling, oppure che lo storytelling può essere ad uso della robotica?

 

Nocenzi: Entrambi direi…

Carrozza: Allora, premetto che a me interessa questo campo perché sono curiosa e sto imparando molto su questo tema. Io credo che la robotica sia un grande strumento positivo per educare e può essere visto come l’evoluzione del fumetto. Perché la robotica è nata così e anche per questo in Giappone sicuramente ha una relazione fortissima con il fumetto. Per come la vedo io, ciò avviene perché come il cartone consente di esplorare dei mondi non reali, ti dà quel qualcosa in più per mandare un messaggio di creatività e di fantasia. Non sono esperta, quindi sto sforando rispetto al mio campo. Però, sicuramente, il robot è uno strumento di comunicazione. Ho letto recentemente su questo tema, per una review sulla relazione fra arte e robotica. Io la vedo come l’evoluzione del fumetto e l’autore dell’articolo che ho letto la vedeva anche come evoluzione della marionetta. L’evoluzione c’è. Se uno pensa in generale alla comunicazione, e comunque alle forme dell’arte, come possono essere il teatro, la recitazione, oppure la danza, la robotica può essere utilizzabile come riferimento: la danza vince la gravità, per esempio, quindi ha un senso secondo me. È un nuovo strumento con cui possiamo lavorare. Dopo aver passato l’età del computer oggi abbiamo l’età del robot. Io la vedo così. In questo senso siamo nella «quarta rivoluzione industriale» in cui un robot può essere uno strumento e oggi la possibilità dello storytelling va oltre l’umano per le emozioni che suscita l’uso di un robot da parte di un umano; è diversa rispetto a quello che abbiamo avuto fino ad oggi. Non so se ho risposto alla domanda.

 

Cipriani: Lo storytelling potrebbe essere utilizzato anche nelle scienze dure perché è possibile anche raccontando una vicenda arrivare a spiegare una formula. Quindi, su questo non ho dubbi. Invece volevo aggiungere una considerazione. Noi oggi ci troviamo di fronte a queste evoluzioni, però solo gruppi di nicchia, come probabilmente siamo anche noi in questo caso, riescono a dare una spinta in avanti rispetto a questa discussione. Mi domando se non si debba, visto che ci hanno chiesto un parere, fornire indicazioni ai nuovi piani per la ricerca nazionale, ma anche europea, proprio in questo settore. Ecco, forse converrà fare una proposta molto articolata in questo senso. Che ne pensa?

Carrozza: Io ho la mia personale opinione su questa raccolta di opinioni, che alla fine sono rivolte ai gruppi di interesse: ci sarà quella con l’etichetta di biologia, quella con l’etichetta di ingegneria, quella con l’etichetta della robotica e la creatività se ne va a farsi benedire. Quindi, dovremo essere molto bravi per dare spunti originali, fuori sacco, rispetto alla consultazione degli stakeholders tradizionali del Ministero e dei gruppi di interesse che, come sempre avviene in politica, fanno lobby, ognuno per la propria area. Secondo me la strada giusta è quella di dare un esempio, sfondare la barriera comunicativa mostrando una strada: può essere una pièce teatrale, una conferenza, un libro, un articolo di giornale o tutte queste cose insieme, ma la bellezza della robotica nessuno potrà mai dominarla. Può nascere l’Istituto di robotica, ma può essere utilizzato anche dagli altri e questo è il punto fondamentale. Io, quindi, la esorto a dire: pensiamo un modo per bucare lo schermo e arrivare fino al decisore, per presentare un lato che non emergerà mai dall’elaborazione burocratico-ministeriale.

 

Cipriani: A Torino hanno fatto esperimenti di interazioni fra marionette e robot. Hanno anche pubblicato un saggio… Un’ultima questione ma non secondaria. Nel suo percorso scientifico in modo particolare si è mai imbattuta in una questione deontologica importante, nel senso di dire questo lo devo fare o non lo devo fare perché è nocivo?

Carrozza: Sì.

 

Cipriani: Può esemplificare?

Carrozza: Sì, in Parlamento mi sono trovata pienamente coinvolta nella discussione sull’utilizzo dei LAWs (Liberal Autonomous Weapons) che sono le armi dotate di sistemi automatici cognitivi di individuazione dell’obiettivo. Quando il confine tra bene e male sembra molto chiaro, quando lo si guarda dall’esterno, ci si accorge che ci sono implicazioni geopolitiche e industriali di ogni genere e che la questione è estremamente complessa. Al di là del fatto che io resto fermamente contraria a questo tipo di armi e che non ho mai voluto lavorare nel campo delle armi – io lavoro nel campo biomedicale – certo, anche per scelta quando mi è stato proposto e ho detto sempre di no, riconosco che ho imparato in Parlamento che sono sempre questioni complesse. Ci sono delle questioni complesse che non hanno delle soluzioni semplici.

 

Cipriani: C’è almeno un altro esempio che può portare?

Carrozza: Questo sicuramente è un esempio molto grave in cui, anche e molto più di altri esempi, lo si denota. Il riferimento è alle interfacce neurali impiantabili che possono essere utilizzate per curare la disabilità, ma possono essere anche utilizzate per il power enhancement, cioè per aumentare la potenza cognitiva o per alterare la percezione delle emozioni o del dolore. Quindi, in ingegneria praticamente ogni scoperta può essere usata per fare male o bene, solo che questo confine a volte non è chiarissimo.

 

Sannella: Quindi, c’è una direzione verso cui sta andando tutta la scienza robotica? Oppure si può parlare di particelle autonome di settore?

Carrozza: C’è una direzione che si può vedere che è quella del robot sociale, dell’esoscheletro. Ci sono anche delle direzioni oscure. Cosa c’è di più oscuro che avere delle armi automatiche in grado di individuare il target? Cosa c’è più di terrificante? Quando si parla di robotica, come quando si parla di altri campi della conoscenza e della ricerca, è bene sapere che si possono apportare anche danni. Sta a noi fare una scelta etica. Io a suo tempo l’ho fatta. Io lavoro solo in campo biomedicale. Però, c’è qualcuno che, per sue ragioni da spiegare, sceglie queste direzioni oscure della scienza robotica. Io dico: non giudicare, ma vai a vedere quelle ragioni.