L’intelligenza artificiale sta entrando in una nuova fase: alla rapida diffusione degli strumenti basati su AI si accompagna un aumento significativo dei rischi legati a cybersicurezza, gestione dei dati, utilizzo di modelli avanzati e impatto sul lavoro.

Bill Gates ha richiamato l’attenzione sul possibile superamento di alcune soglie critiche dell’AI, in particolare nei settori delle biotecnologie, della cybersicurezza e del lavoro, evidenziando la necessità di nuove regole, maggiori controlli sui modelli avanzati e misure capaci di affrontare gli effetti dell’automazione sull’occupazione.

Cybersicurezza: aumenta l’esposizione dei sistemi AI

Uno dei dati più rilevanti riguarda la sicurezza degli strumenti basati su Large Language Model (LLM).

Negli ultimi 18 mesi sarebbe stato registrato un incremento del 580% delle vulnerabilità rilevate nei tool basati su LLM e nei relativi plugin. Il dato viene associato soprattutto alla crescente velocità con cui vengono rilasciate nuove applicazioni, alla diffusione degli agenti autonomi e a una gestione non sempre adeguata di credenziali e dati aziendali.

La sicurezza dell’intelligenza artificiale sta quindi diventando un settore autonomo: secondo le previsioni, il relativo mercato potrebbe raggiungere 4,8 miliardi di dollari nel 2027, con una crescita annua del 68,7%.

AI aziendale: più capacità significa anche più responsabilità

Parallelamente prosegue l’accelerazione nell’utilizzo professionale dell’AI. La spinta di OpenAI verso l’adozione aziendale di ChatGPT Business, con soluzioni caratterizzate da maggiori capacità e livelli di utilizzo più elevati.

Per le imprese il messaggio è chiaro: l’adozione dell’intelligenza artificiale non può essere gestita esclusivamente come un progetto tecnologico o di produttività.

Diventa necessario affiancare all’introduzione degli strumenti AI un sistema di governo che consideri almeno:

  • autorizzazione degli strumenti utilizzabili in azienda;
  • gestione degli accessi e delle credenziali;
  • tutela delle informazioni riservate e dei dati personali;
  • controllo dei plugin e delle applicazioni collegate ai sistemi AI;
  • valutazione dei rischi derivanti dall’utilizzo di agenti autonomi;
  • formazione degli utilizzatori;
  • definizione di responsabilità e controlli interni.

Per le organizzazioni, quindi, la sfida dei prossimi mesi sarà trovare il corretto equilibrio tra innovazione, produttività e sicurezza, evitando che una diffusione non controllata degli strumenti di intelligenza artificiale introduca nuovi rischi all’interno dei processi aziendali.