In parole povere il
Cartoon Mode è una funzionalità che permette di ignorare i frame
"sporchi" in fase di analisi del video. Risulta particolarmente efficace in tutte quelle situazioni dove la sorgente da
encodare 
ha un FPS inferiore a 15 (tipicamente cartoni animati).
Per maggiori info dai un'occhiata
qui 