Un sistema di moderazione automatica degli annunci grazie alle tecniche di Machine Learning
Ci sono azioni che una macchina può fare meglio dell’uomo, ma senza l’uomo la macchina non può apprendere e migliorare.
Un esempio? Noi del team DotEnv abbiamo progettato un sistema di moderazione automatica per un sito web di annunci promozionali.
Chi verifica che gli annunci siano veritieri?
Immagina un luogo virtuale dove compratori e venditori ricevono un feedback dagli utenti sulla transazione che viene fatta. Per tenere traccia di ogni azione un essere umano impiegherebbe moltissimo tempo. Invece, grazie all’intervento di una sorta di “controllore automatico”, i tempi di elaborazione media si aggirano intorno al minuto.
Ma entriamo più nel concreto.
Quando un utente decide di pubblicare un annuncio il sistema di moderazione automatica entra in azione, valutando numerosi aspetti. Il contenuto viola qualche norma etica? C’è coerenza tra testo e immagine? Il video è chiaro e comprensibile? Sulle foto sono presenti delle scritte che non dovrebbero esserci? Ogni volta che il sistema intercetta un’anomalia viene bloccatala pubblicazione dell’annuncio.
Ma la “macchina” come fa a sapere cosa è corretto e cosa invece non è adeguato?
Te lo spieghiamo con un paio di esempi. Se un utente decide di vendere un iPhone, ma la foto mostra un MacBook, si accende una lampadina.
Oppure, se la foto raffigura solo una piccola porzione dello smartphone in questione, la macchina non è in grado di riconoscere che è un iPhone.
Cosa succede a questo punto?
L’intervento umano
Il sistema di moderazione automatica segnala all’operatore in carne e ossa che è necessario un suo intervento.
È il momento dell’umano di controllare e verificare l’annuncio: solo se lui lo reputerà compatibile, allora la macchina lo pubblicherà.
Il sistema apprende qualcosa di nuovo
Questa non è un’azione fine a se stessa. Grazie all’intervento dell’operatore il sistema basato sulle tecniche di Machine Learning apprende qualcosa di nuovo.
Possiamo affermare che il “controllore” viene istruito costantemente sulla base del feedback umano.
Questo significa che, la volta successiva, se l’utente proporrà un annuncio con la stessa porzione di iPhone, il sistema sarà in grado di riconoscerlo e non avrà bisogno di aiuto dall’esterno.
