L’AI sta facendo delirare i programmatori open source

L’intelligenza artificiale continua a preoccupare. Non sono soltanto le migliaia di fake news che stanno spopolando sui social media, ma anche le numerose segnalazioni di bug ad opera dell’AI, che stanno propriamente mandando fuori di testa i programmatori open source. A segnalarlo è stato per primo Seth Larson, sviluppatore della Python Software Foundation, che in un post pubblicato sul suo blog la scorsa settimana ha dichiarato: “Recentemente ho notato un aumento dei rapporti di sicurezza di qualità estremamente bassa, spam e allucinati da LLM per progetti open source. Questi rapporti sembrano a prima vista potenzialmente legittimi e quindi richiedono tempo per essere confutati”.

La segnalazione fake di bug, infatti, può rappresentare un enorme problema per i progetti open source – che rappresentano la maggior parte di quelli presenti su internet – gestiti solitamente da piccoli gruppi di programmatori non retribuiti, e per questo più propensi ad abbandonare i progetti difficoltosi. D’altronde, negli ultimi mesi i modelli linguistici di grandi dimensioni sono sempre più utilizzati per generare codice o estrapolarlo da progetti già ben strutturati. Ma, come ben sappiamo, l’intelligenza artificiale soffre spesso di allucinazioni, che possono tradursi in frammenti di codice tutt’altro che corretti, così pure come in segnalazioni di bug fasulle.

E questa situazione diventa ancora più difficile da gestire, considerando che piattaforme come HackerOne offrono agli sviluppatori più giovani buoni compensi per la segnalazioni di bug nei progetti open source, il che li porta inevitabilmente a utilizzare l’intelligenza artificiale per riuscire a individuarli in maniera più rapida e indolore. Il risultato, però, è la diffusione smodata di segnalazioni fake, che non fanno altro che far perdere tempo ai programmatori che seguono da vicino quei progetti. Certo, lo spam in rete non è cosa nuova, ma forse lo è tra i programmatori, diciamo la verità.