Automatisation de lecture des formulaires de cases à cocher

Nous venons de développer un outil de lecture automatique de cases à cocher.

Après un état de l’art sur le sujet, on s’aperçoit que ce sujet n’est plus d’actualité, plus de recherches scientifiques depuis de nombreuses années, grave erreur 😉

Il est vrai que le formulaire électronique est en vogue, mais il y encore des contextes où l’usage de celui-ci, n’est pas possible.

En tant que prestataire de service en dématérialisation, nous avons la chance d’avoir de la volumétrie.

Voici quelques exemples de cases cocher :

exemple de cases à cocher

à priori on ne voit pas la difficulté pour détecter que la case est cochée ou non. En analysant simplement le nombre de pixels noir au centre des cases on détecte facilement si la case est cochée ou non.

Voici quelques exemples où l’on commence à comprendre les difficultés que l’on rencontre :

coche entre deux cases

Certains de nos clients nous demande de prendre en compte ce type de coche, en prenant l’option la plus négative, ici « Peu Satisfait », pour la deuxième question.

coche verticale au lieu d’une croix

Un dernier exemple, mais il y en a des dizaines d’autres, pour lequel la règle d’analyse citée ci-dessus ne fonctionne pas :

la personne au lieu de cocher les cases a entouré celles-ci

Une fois de plus, un sujet qui semble simple, cache de l’intérêt pour la recherche et pour un prestataire externe.

Une petite dernière…

Une ambiguïté de compréhension possible

PS : pensez aux personnes qui font des ratures …

 

Le PDF/A-1 -2 – 3 -x

La norme ISO PDF/A

L’objet de cet article n’est pas de décrire le format PDF/A, avec ces avantages et ces inconvénients, voir pour cela :

1. http://fr.wikipedia.org/wiki/PDF/A-1
2. http://www.pdfa.org/2009/09/pdfa-une-nouvelle-norme-pour-larchivage-a-long-terme/?lang=fr

L’objet de cet article est de faire un retour sur son usage, afin de répondre aux questions suivantes :

1. Tous les logiciels qui indiquent faire de PDF/A suivent t’ils la norme ?
2. Peut-on faire du PDF Optimisé avec du PDF/A
3. Relation signature électronique et PDF/A
4. Taille des fichiers PDF/A
5. Modification d’un PDF/A
6. Tous les PDF peuvent ils devenir des fichier PDF/A

Tous les logiciels qui indiquent faire de PDF/A suivent t’ils la norme ?

NON. C’est terrible, mais des logiciels permettent de valider les fichiers PDF/A et surprise de nombreux PDF dit PDF/A ne suivent pas la norme. ;-(

Peut-on faire du PDF Optimisé avec du PDF/A

OUI et NON. La norme PDF/A-1 trop ancienne n’autorise pas les PDF Optimisés. A partir de la La norme PDF/A-2, on peut intégrer des formats d’images optimisées pour les images couleurs et niveaux de gris. On peut aussi compresser sans perte d’information les images N&B, gain environ 50% par rapport aux images tiff group IV. 😉

Relation signature électronique et PDF/A

OUI. On peut signer un fichier PDF au format PDF/A sans que celui-ci perde son statu PDF/A

Les fichiers PDF/A sont plus gros

OUI. car on cherche à tout embarquer, notamment les polices de caractères. La taille des fichiers PDF/A est donc plus importante que les fichiers PDF normaux.

Modification d’un PDF/A

NON. La modification d’un fichier PDF suivant la norme PDF/A, perd son statu PDF/A, il faut alors relancer la conversion en PDF/A

Tous les fichiers PDF peuvent-ils passer en PDF/A ?

NON. Si le fichier a mal été crée au départ, par exemple création à partir d’un logiciel, comme Word de Microsoft, et le document d’origine comporte des polices de caractères spécifiques installés sur le poste. Dans ce cas, au moment de la demande de passage en PDF/A sur un autre poste de ce PDF, le système va chercher les polices de caractères, ne les trouvant pas il refusera la conversion.

Voilà une petite liste de questions/réponses sur le PDF/A

 

 

SDNRI 19-21 mars 2014 (CIFED+CORIA), mon résumé

Semaine du Document Numérique et de la Recherche d’Information 2014 (SDNRI)

Présent à cette conférence qui regroupe deux mondes de la recherche : la recherche d’informations (CORIA) et l’analyse d’image de document (CIFED), je vous propose mon résumé en tant qu’industriel, plus orienté CIFED, il fallait faire des choix ;-).

L’objet de ces colloques est la présentation de ce qui se fait actuellement dans les laboratoires, pour l’analyse de document : factures, documents techniques, courrier entrant, etc.. On n’est donc pas sur la vidéo, la 3D, la réalité virtuelle.. c’est vraiment la partie dématérialisation et indexation des documents.

95% de chercheurs et 5% d’industriels (3 sociétés de mémoire… mais on était plutôt silencieux).

Les recherches actuelles portent sur :

• Reconnaissance manuscrite, avec notamment l’intervention d’ Alex Graves, par une technique Biderictionnal RNNs
• Améliorer la classification de documents par combinaison de descripteurs visuels et textuels (Fait par mon collègue Olivier AUGEREAU)
• La différenciation texte manuscrit et texte typographié, afin notamment d’appliquer un OCR ou ICR en fonction de ce qui a été trouvé
• La détection d’une première page de document dans un flux documentaire
• La recherche de formule chimique dans un document
• Classification de document par l’analyse de logo.
• Classification mono-classe de document industriel
• Génération de données semi-synthétiques pour l’amélioration des techniques d’apprentissage.
• Analyse de document par smartphone
• Analyse de la couleur sur des formulaires

Les recherches en cours sont biens dans les problématiques industrielles, en interne nous travaillons sur une grande partie de ces sujets à notre niveau bien sûr.

Comme certaines conférences étaient communes avec la partie CORIA, j’ai pu notamment assister à la présentation Iadh Ounis  de l’université de Glasgow, qui a présenté un système de détection d’événement par l’analyse quasi temps réel des tweets dans le monde. Des problématiques informatiques impressionnantes au regard des volumétries, plus de 100 000 tweets analysés par seconde. L’objectif étant d’informer la police, les journalistes, etc… d’événements qui se produisent. L’idée originale est de croiser dans la foulée, les recherches effectuée sur Wikipedia sur ces mêmes sujets, 2 heures après les tweets.

pour plus d’information sur ce colloque http://sdnri2014.loria.fr/ 

Signature électronique sur une feuille de papier ?

Le document Hybride

Dans le cadre de la dématérisalisation de documents, des questions concernent souvent la notion de copie, de preuve, de valeur probatoire, de notion d’intégrité du résultat de la numérisation etc..mais quand est-il de l' »original » numérisé.

Qu’est ce qui prouve aujourd’hui qu’une facture papier d’Orange provient vraiment d’Orange et que les données qu’elle contient n’ont pas été modifiées ?

Plusieurs problématiques :

• Les factures d’Orange sont au format électronique, la version papier n’est finalement plus l’original, mais une impression de l’original électronique, donc une copie.
• L’impression est réalisée par une personne qui peut avoir modifiée le contenu de la version électronique, avant l’impression, même si elle est au format PDF, par exemple pour indiquer une autre adresse, une autre identité.

Quelle fût ma surprise il y a quelques années, lorsque j’ai croisé la FNTC (Fédération des tiers de confiance), sur un salon, qui ont travaillé sur le document hybride. On m’explique alors que l’on peut ajouter une signature électronique horodatée sur un document papier !!.

Le meilleur exemple d’utilisation est le billet de train, imprimé sur Internet, avec son code 2D, visible en haut à droite de la feuille A4, Le contrôleur, douche celui-ci est croise les informations lues avec le texte écrit sur le billet. Les modifications du billet seraient alors détectées. Le système utilise une clef privée pour la constitution de ce code, une clef public pour la lire.

Il y a quatre intérêts à cette technique :

• La réduction de la fraude.
• La possibilité de relire certain texte sur la version papier sans faire de l’OCR (Reconnaissance Optique de Caractères) et donc sans risque d’erreur
• la possibilité d’utiliser cette technique avec un équipement d’impression standard (pas d’utilisation d’hologrammes ou d’encre magnétique).
• La possibilité de relire facilement l’information

Liens sur le sujet :

• Une superbe publication a été écrite sur le sujet, en libre accès, par la FNTC (Fédération des Tiers de confiance) téléchargeable ici :  http://www.fntc.org/fr/publications/func-startdown/256/
• http://cerig.efpg.inpg.fr/memoire/2012/codes-2D.htm

Deux techniques supplémentaires existent :

• Cacher sur la version papier, visible par un scanner mais pas par un humain. Le fraudeur risque donc de se faire avoir …
• Augmenter la densité des informations dans le code, qui va du coup nécessiter une imprimante et un scanner qui sont un peu plus évolués. On peut alors encoder plus que le texte, par exemple de l’en-tête et le pied de page d’une facture, mais tout le contenu textuel de la facture.

 

Retour d’expérience écran tactile grand format

Dans le cadre de l’amélioration de nos outils de production, nous avons développé une interface de classification de documents, sur un écran tactile 23″.

Nous avons développé en interface tactile, car l’utilisateur classifie des images numérisées en recto-Verso et on souhaitait lui présenter une interface et une utilisation proche de celle qu’il avait avant avec les originaux papiers.

Dans notre contexte, l’utilisateur est assis devant cet écran qui est dans la position habituelle d’un écran d’ordinateur, mais plus proche et plus penché.

L’objet de cet article est le retour de cette expérience.

Le développement a été fait en utilisant WPF en C# avec Visual Studio 2012, aucun soucis à ce stade.

Les retours au niveau interface, par rapport à une interface souris, sont les suivants :

– les zones sensibles doivent être plus grandes,
– les zones les plus utilisées doivent être en bas de l’écran,
– les barres de défilement doivent être adaptées (plus large)

Les points de vigilance sont :

– l’écran doit être penché, il doit être assez proche de l’utilisateur
– l’écran ne doit pas être brillant car son inclinaison peut être la cause de reflet (lumière d’en haut)
– prendre en compte la fatigue des membres plus sollicités que lors de l’utilisation de la souris
– la nécessité de saisir de temps à autre, n’est pas pratique sur ce type d’écran. Il n’y a pas la  possibilité de faire apparaître le clavier à l’endroit de son choix. Le fait d’utiliser un vrai clavier éloigne de l’écran l’opérateur, ce qui n’est pas bon dans ce contexte.

Au final, après plusieurs mois d’utilisation, on s’aperçoit, un abandon pour certains opérateurs et un retour à la souris, d’autres utilisent un mixte souris/écran tactile. aucun n’est au final resté au tactile pure.

Attention : une simple mouche sur l’écran peut être prise en compte par le système, voir une simple poussière … 😉

Développer dans Kofax Express

La dématérialisation, ne nécessite pas toujours le numérisation, mais si tel est le cas, un logiciel de scannérisation est souvent nécessaire.

Nous avons expérimenté le logiciel Kofax Express.

Pourquoi ce choix ? : la possibilité de développer, on peut ainsi l’adapter au besoin. En tant que prestataire de service, c’est essentiel de pouvoir s’adapter aux demandes des clients.

Le produit permet l’ajout de code lors de la phase d’indexation, on doit développer en VB.NET. Le logiciel propose en standard (sans développement) des contrôles de type expressions régulières ou contrôle par croisement avec une base de données (très simple d’utilisation). Il existe néanmoins des limites, par exemple, on ne peut pas sans programmation, faire un contrôle avec une notion de OU. La saisie doit répondre à ce format ou ce format, les deux étant très différents. Par contre, Il n’est pas possible par programmation d’avoir le même comportement de gestion d’erreur que le produit.

Le deuxième endroit où l’on peut développer, est au moment de l’exportation. On appel cela un connecteur d’export. On peut toujours développer en VB.Net, mais aussi C# etc.. Manifestement, c’est à ce niveau que Kofax souhaite que l’on développe. On peut alors sous Visual Studio, développer ce que l’on veut.. très grande liberté de langage, de possibilité.

Nous avons par exemple développé :

1. une génération d’un CSV d’indexation à notre sauce, en plus de l’export d’images
   
2. l’affichage d’écran de contrôle personnalisé
   
3. la génération d’arborescence de fichiers, en fonction de valeur d’index
   
4. des nommages de fichiers exotiques
   
5. etc..
   

à priori pas de limite : envoi FTP, mail, etc…

Notion de pages blanches dans le contexte de la dématérialisation

Sujet à priori sans intérêt, quoi-que…

Existe-il une définition de la notion de page blanche ? La meilleure que je connaissance, dans le contexte de la dématérialisation, est : une image non porteuse d’information

Le problème de cette définition, c’est qu’elle est finalement très subjective. Quelques visuels qui ne posent problème à personne :

page blanche avec légère bordure noire

page verso avec par transparence texte du recto

page blanche verso mais présence bordures noires et trous de perforation

On voit bien que ces trois images répondent bien à la définition, même si elles ne sont pas blanches.

La raison de cet article est que les logiciels de scan vont avoir des difficultés à supprimer ces images, avec le seul outil standard qui est en général proposé. Il supprime les images au regard du poids de celle-ci (en octets) ou de la couverture noire sur l’image (exprimé en %).

Des produits permettent de supprimer les bordures noires, d’autres les trous de perforation, mais cela ne fait que réduire le problème, pas le supprimer.

Voici un exemple d’image qui est à conserver :

page ne contenant qu’un numéro de page

C’est bien sûr l’exemple extrême, d’une page ne contenant qu’un numéro de page. Le poids d’une telle image est inférieure aux images à supprimer ci-dessus.

L’image ci-dessous est en général à supprimer, même si elle est loin d’être blanche, mais elle répond à la définition.

Conditions générale de vente

Ce type de page, sur certaines prestations est présent sur tous les versos, et n’apporte donc aucune information particulière.

Nous avons résolu en automatique, la suppression des pages blanches dans nos chaines de production, par du traitement d’images et par l’utilisation de modèles, en ce qui concerne les conditions générales de vente. L’OCR peut-être une idée, mais elle ne fonctionne pas sur tous les documents, dont le manuscrit, de plus la transparence peut être vue comme du texte.

Un peu d’humour..

image volontairement blanche

Pour une question de pagination, des documents comportent ce type de page…

.