Automatisation de lecture des formulaires de cases à cocher

Nous venons de développer un outil de lecture automatique de cases à cocher.

Après un état de l’art sur le sujet, on s’aperçoit que ce sujet n’est plus d’actualité, plus de recherches scientifiques depuis de nombreuses années, grave erreur 😉

Il est vrai que le formulaire électronique est en vogue, mais il y encore des contextes où l’usage de celui-ci, n’est pas possible.

En tant que prestataire de service en dématérialisation, nous avons la chance d’avoir de la volumétrie.

Voici quelques exemples de cases cocher :

exemple de cases à cocher

à priori on ne voit pas la difficulté pour détecter que la case est cochée ou non. En analysant simplement le nombre de pixels noir au centre des cases on détecte facilement si la case est cochée ou non.

Voici quelques exemples où l’on commence à comprendre les difficultés que l’on rencontre :

coche entre deux cases

Certains de nos clients nous demande de prendre en compte ce type de coche, en prenant l’option la plus négative, ici « Peu Satisfait », pour la deuxième question.

coche verticale au lieu d’une croix

Un dernier exemple, mais il y en a des dizaines d’autres, pour lequel la règle d’analyse citée ci-dessus ne fonctionne pas :

la personne au lieu de cocher les cases a entouré celles-ci

Une fois de plus, un sujet qui semble simple, cache de l’intérêt pour la recherche et pour un prestataire externe.

Une petite dernière…

Une ambiguïté de compréhension possible

PS : pensez aux personnes qui font des ratures …

 

SDNRI 19-21 mars 2014 (CIFED+CORIA), mon résumé

Semaine du Document Numérique et de la Recherche d’Information 2014 (SDNRI)

Présent à cette conférence qui regroupe deux mondes de la recherche : la recherche d’informations (CORIA) et l’analyse d’image de document (CIFED), je vous propose mon résumé en tant qu’industriel, plus orienté CIFED, il fallait faire des choix ;-).

L’objet de ces colloques est la présentation de ce qui se fait actuellement dans les laboratoires, pour l’analyse de document : factures, documents techniques, courrier entrant, etc.. On n’est donc pas sur la vidéo, la 3D, la réalité virtuelle.. c’est vraiment la partie dématérialisation et indexation des documents.

95% de chercheurs et 5% d’industriels (3 sociétés de mémoire… mais on était plutôt silencieux).

Les recherches actuelles portent sur :

• Reconnaissance manuscrite, avec notamment l’intervention d’ Alex Graves, par une technique Biderictionnal RNNs
• Améliorer la classification de documents par combinaison de descripteurs visuels et textuels (Fait par mon collègue Olivier AUGEREAU)
• La différenciation texte manuscrit et texte typographié, afin notamment d’appliquer un OCR ou ICR en fonction de ce qui a été trouvé
• La détection d’une première page de document dans un flux documentaire
• La recherche de formule chimique dans un document
• Classification de document par l’analyse de logo.
• Classification mono-classe de document industriel
• Génération de données semi-synthétiques pour l’amélioration des techniques d’apprentissage.
• Analyse de document par smartphone
• Analyse de la couleur sur des formulaires

Les recherches en cours sont biens dans les problématiques industrielles, en interne nous travaillons sur une grande partie de ces sujets à notre niveau bien sûr.

Comme certaines conférences étaient communes avec la partie CORIA, j’ai pu notamment assister à la présentation Iadh Ounis  de l’université de Glasgow, qui a présenté un système de détection d’événement par l’analyse quasi temps réel des tweets dans le monde. Des problématiques informatiques impressionnantes au regard des volumétries, plus de 100 000 tweets analysés par seconde. L’objectif étant d’informer la police, les journalistes, etc… d’événements qui se produisent. L’idée originale est de croiser dans la foulée, les recherches effectuée sur Wikipedia sur ces mêmes sujets, 2 heures après les tweets.

pour plus d’information sur ce colloque http://sdnri2014.loria.fr/ 

Signature électronique sur une feuille de papier ?

Le document Hybride

Dans le cadre de la dématérisalisation de documents, des questions concernent souvent la notion de copie, de preuve, de valeur probatoire, de notion d’intégrité du résultat de la numérisation etc..mais quand est-il de l' »original » numérisé.

Qu’est ce qui prouve aujourd’hui qu’une facture papier d’Orange provient vraiment d’Orange et que les données qu’elle contient n’ont pas été modifiées ?

Plusieurs problématiques :

• Les factures d’Orange sont au format électronique, la version papier n’est finalement plus l’original, mais une impression de l’original électronique, donc une copie.
• L’impression est réalisée par une personne qui peut avoir modifiée le contenu de la version électronique, avant l’impression, même si elle est au format PDF, par exemple pour indiquer une autre adresse, une autre identité.

Quelle fût ma surprise il y a quelques années, lorsque j’ai croisé la FNTC (Fédération des tiers de confiance), sur un salon, qui ont travaillé sur le document hybride. On m’explique alors que l’on peut ajouter une signature électronique horodatée sur un document papier !!.

Le meilleur exemple d’utilisation est le billet de train, imprimé sur Internet, avec son code 2D, visible en haut à droite de la feuille A4, Le contrôleur, douche celui-ci est croise les informations lues avec le texte écrit sur le billet. Les modifications du billet seraient alors détectées. Le système utilise une clef privée pour la constitution de ce code, une clef public pour la lire.

Il y a quatre intérêts à cette technique :

• La réduction de la fraude.
• La possibilité de relire certain texte sur la version papier sans faire de l’OCR (Reconnaissance Optique de Caractères) et donc sans risque d’erreur
• la possibilité d’utiliser cette technique avec un équipement d’impression standard (pas d’utilisation d’hologrammes ou d’encre magnétique).
• La possibilité de relire facilement l’information

Liens sur le sujet :

• Une superbe publication a été écrite sur le sujet, en libre accès, par la FNTC (Fédération des Tiers de confiance) téléchargeable ici :  http://www.fntc.org/fr/publications/func-startdown/256/
• http://cerig.efpg.inpg.fr/memoire/2012/codes-2D.htm

Deux techniques supplémentaires existent :

• Cacher sur la version papier, visible par un scanner mais pas par un humain. Le fraudeur risque donc de se faire avoir …
• Augmenter la densité des informations dans le code, qui va du coup nécessiter une imprimante et un scanner qui sont un peu plus évolués. On peut alors encoder plus que le texte, par exemple de l’en-tête et le pied de page d’une facture, mais tout le contenu textuel de la facture.

 

Notion de pages blanches dans le contexte de la dématérialisation

Sujet à priori sans intérêt, quoi-que…

Existe-il une définition de la notion de page blanche ? La meilleure que je connaissance, dans le contexte de la dématérialisation, est : une image non porteuse d’information

Le problème de cette définition, c’est qu’elle est finalement très subjective. Quelques visuels qui ne posent problème à personne :

page blanche avec légère bordure noire

page verso avec par transparence texte du recto

page blanche verso mais présence bordures noires et trous de perforation

On voit bien que ces trois images répondent bien à la définition, même si elles ne sont pas blanches.

La raison de cet article est que les logiciels de scan vont avoir des difficultés à supprimer ces images, avec le seul outil standard qui est en général proposé. Il supprime les images au regard du poids de celle-ci (en octets) ou de la couverture noire sur l’image (exprimé en %).

Des produits permettent de supprimer les bordures noires, d’autres les trous de perforation, mais cela ne fait que réduire le problème, pas le supprimer.

Voici un exemple d’image qui est à conserver :

page ne contenant qu’un numéro de page

C’est bien sûr l’exemple extrême, d’une page ne contenant qu’un numéro de page. Le poids d’une telle image est inférieure aux images à supprimer ci-dessus.

L’image ci-dessous est en général à supprimer, même si elle est loin d’être blanche, mais elle répond à la définition.

Conditions générale de vente

Ce type de page, sur certaines prestations est présent sur tous les versos, et n’apporte donc aucune information particulière.

Nous avons résolu en automatique, la suppression des pages blanches dans nos chaines de production, par du traitement d’images et par l’utilisation de modèles, en ce qui concerne les conditions générales de vente. L’OCR peut-être une idée, mais elle ne fonctionne pas sur tous les documents, dont le manuscrit, de plus la transparence peut être vue comme du texte.

Un peu d’humour..

image volontairement blanche

Pour une question de pagination, des documents comportent ce type de page…

.