Friday, November 17, 2017

Semaine 12 Cours 2

Aujourd'hui nous avons embelli le document sur les outils d'expérimentation et nous l'avons remis de façon très formelle sur Omnivox.

Nous avons regardé le document sur la publication des résultats et nous avons posé des questions à François à ce sujet.

Wednesday, November 15, 2017

Semaine 12 Cours 1

Aujourd'hui nous avons encore continué le document sur les outils d'expérimentations.

Nous avons également redimensionné la fenêtre de l'application et avons cherché comment rendre le texte de l'interface plus beau, à l'aide d'antialiasing :


Friday, November 10, 2017

Semaine 11 Cours 2

Aujourd'hui, nous avons presque terminé la rédaction du document sur les outils d'expérimentation, et nous avons commencé à lire les documents sur la présentation finale.

Wednesday, November 8, 2017

Semaine 11 Cours 1

Aujourd'hui, nous avons entamé la rédaction du document sur les outils d'expérimentation et nous avons testé l'application plus en détail pour assurer son bon fonctionnement.

Wednesday, November 1, 2017

Semaine 10 Cours 1

Aujourd'hui nous avons pris une pause de programmation et nous avons commencé à rédiger le document sur les outils d'expérimentation

Friday, October 27, 2017

Semaine 9 Cours 2

Aujourd'hui nous avons complété la classe CharacterReader et avons continué de travailler sur l'affichage des caractères détectés.

Également, nous avons implémenté le redimensionnement et recentrage des caractères dessinés, mais cette fois-ci de façon discrète. De cette façon, l'utilisateur peut dessiner son caractère là où il le veut et à la taille qu'il veut et les pixels seront discrètement redimensionnés avant de passer dans CharacterReader:


Il restera donc à revisiter l'architecture des réseaux tel que discuté dans un post précédent, et à trouver comment afficher la certitude du réseau.

Wednesday, October 25, 2017

Semaine 9 Cours 1

Aujourd'hui, nous avons continué l'implémentation de l'interface au niveau des choix de résultats. Nous avons également continué l'entraînement des réseaux, mais nous avons perdu beaucoup de temps à configurer mon nouvel ordinateur (Dominic J) avec Python, Numpy, etc.

Friday, October 20, 2017

Semaine 8 Cours 2

Aujourd'hui nous avons travaillé en parallel sur 2 aspects: la classe CharacterReader et la partie de l'interface qui s'occupe de proposer des résultats:


Les 6 rectangles vont contenir les choix possibles et leur pourcentage de certitude. Aussi, il faudra trouver comment convertir la sortie du réseau de neurone (-1 à 1) en pourcentage de certitude.

De l'autre côté, la classe CharacterReader s'occupe de passer la liste de pixels au réseau central pour déterminer quel sous-réseau il faut utiliser. Après quelques tests, nous nous sommes aperçus qu'environ 10% (37 / 360) des caractères inconnus au réseaux ne donnent aucun résultat satisfaisant, c'est-à-dire que le caractère avec le meilleur score de tous les réseaux est en dessous d'un certain seuil qui est à -0.5 pour l'instant. Lors de ces cas, l'application retournera un message indiquant qu'aucun caractère n'a pu être détecté et de réessayer en dessinant mieux que ça.

Ensuite nous avons utilisé la classe CharacterReader pour analyser les résultats donnés par le réseau central. Nous avons remarqué que le caractère 8 se fait souvent confondre avec 9, et Q se fait confondre avec R, et M avec H. Non seulement le réseau central a redirigé ces caractères vers le mauvais réseau à plusieurs occasions, le mauvais réseau a donné des forts niveaux de certitude malgré avoir été entraînés pour donner des niveaux plus bas. Cela suggère qu'il faudrait entraîner de nouveaux réseaux en regroupant ces caractères pour améliorer le taux de succès.

Wednesday, October 18, 2017

Semaine 8 Cours 1

Lors de la semaine de relâche, nous avons poursuivi nos tests et nous sommes arrivés à la conclusion que pybrains n'est pas la meilleure librairie d'intelligence artificielle. Nous avons trouvé la librairie nommée Neurolab qui entraîne mieux les réseaux.

Nous avons également revisité l'idée qu'on avait eu au tout début, de regrouper les caractères similaires dans des réseaux distincts, avec un autre réseau de neurones qui a comme tâche de rediriger vers le bon réseau. De plus, les réseaux de neurones vont maintenant de -1 à 1 (au lieu de 0 à 1) plus le résultat est haut, plus le réseau est certain qu'il s'agit d'un certain caractère.

Nous avons concocté un petit script qui compare les caractères entre eux pour afficher lesquels se ressemblent le plus:

Il s'agit d'une échelle relative de 0 à 1. Plus le chiffre est bas, plus les caractères se ressemblent.

Lors de l'entraînement, par exemple dans le réseau qui contient les caractères 1, I, J, 3, B, 8, les échantillons de 3 seront entraînés en tant que -1, -1, -1, 1, -1, -1. De cette façon, lorsqu'on lui donne un 3 qu'il n'a jamais vu précédemment, le réseau devrait donner quelque chose s'y rapprochant, par exemple -0.99, -0.96, -0.97, 0.98, -0.94, -0.98. On déduit donc qu'il s'agit d'un 3 car c'est le caractère avec le meilleur « score ». Le même principe s'applique lors de l'entraînement du réseau central, on se sert du meilleur score pour déduire quel réseau on doit cibler.

De plus, les réseaux ont été entraînés avec -1, -1, -1, -1, -1, -1 pour les caractères qui n'appartiennent pas à leur réseau. De cette façon, si jamais le réseau central se trompe, on peut en déduire et appliquer une procédure de « backup » et lancer la série de pixels dans tous les réseaux et trouver celui avec le meilleur score.

Nous travaillons également en parallel sur l'interface graphique de l'application, pour afficher les prédictions de caractères et le niveau de certitude des réseaux.

Friday, October 6, 2017

Semaine 7 Cours 2

Aujourd'hui nous avons continué les expérimentations des entraînements. Nous avons entraîné un réseau avec deux couches cachées au lieu d'une seule et les résultats semblent plus prometteurs qu'avant, même s'ils restent insatisfaisants.

Par exemple voici les distributions des résultats connus et inconnus dans le cas d'un réseau avec 2 couches de 6 neurones chaque:





En entraînant un réseaux avec 2 couches de 10 neurones chaque, les résultats sont un peu meilleures sur les 2 plans:


Nous avons également dessiné un peu plus de caractères (5 de chaque) qui serviront à juger le succès des réseaux.

Il reste donc encore à tester différentes configurations de réseaux, voire peut-être même essayer une autre librairie que PyBrain pour arriver au résultat voulu.

Wednesday, October 4, 2017

Semaine 7 Cours 1

Cette semaine nous avons continué les expérimentations avec les différents styles de réseaux de neurone. Le problème majeur est que les réseaux ont besoin d'être entraînés pendant plusieurs heures avant de pouvoir qualifier si c'est un succès ou non.

Nous comptons automatiser un petit peu plus le processus de benchmarking établi au dernier cours (avec le graphique) en dessinant des caractères supplémentaires qui ne seront pas utilisés dans l'entraînement des réseaux. De cette façon, lors des tests nous pourrons directement passé des caractères que le réseau n'a jamais vu pour pouvoir juger sa performance, sans avoir à toujours dessiner des caractères individuellement. Cette technique nous sauvera beaucoup de temps de testage de réseaux.

Il reste plusieurs configurations de réseaux à tester, en espérant trouver la bonne un jour!

Friday, September 29, 2017

Semaine 6 Cours 2

Aujourd'hui nous avons testé les réseaux qui avaient été entraînés depuis le dernier cours.

Avec des caractères différents dans chaque réseau, le graphique de taux de réussite ressemble à ceci:

Nous avons donc dessiné des caractères additionnels pour ceux qui en avaient moins et dont le taux de réussite était trop bas. Par exemple, les X et les U. Nous avons donc maintenant un total de 2400 caractères qui serviront à entraîné les réseaux.

Nous avons également changé l'algorithme de redimensionnement pour les étirer uniquement en hauteur plutôt qu'en largeur, histoire d'améliorer le heat map des caractères comme Z, J et W.

Il reste donc à entraîner les réseaux de nouveau et comparer les résultats.

Wednesday, September 27, 2017

Semaine 6 Cours 1

Salut la gang,

Aujourd'hui nous avons testé les réseaux de neurones après les avoir entraînés toute la fin de semaine.

Voici un graphique du taux de réussite selon le temps:



Sur les 2077 caractères dessinés, le réseaux en reconnaissait 86.33%. Par contre, lors du testage, nous avons constaté qu'il y a eu beaucoup de overfitting, c'est-à-dire que le réseau performe bien sur les caractères qu'il connait, mais pas des nouveaux que l'on dessine à l'écran. Il n'avait pas de misère à détecter correctement des 7 ou des B, mais certains caractères n'arrivaient pas à un niveau de détection satisfaisant. Par exemple, le K faisait ombre au X à cause de leur similarité dans les 2 barres diagonales.

Nous avons donc décidé de changer les sous-réseaux de sorte à séparer les caractères similaires pour qu'au moins les suggestions de caractères détectés se ressembleront (0, O, D, etc) au lieu d'en avoir un qui "bloque" les autres. Nous estimons que le taux de réussite n'attendrait pas 86% comme précédemment, mais le résultat devrait être plus acceptable en suggérant le bon caractère en 2eme ou 3eme place.

Friday, September 22, 2017

Semaine 5 Cours 2

Aujourd'hui, nous avons amélioré les 2077 caractères en les redimensionnant et en les centrant pour que le réseau de neurones puissent reconnaître un caractère peu importe où il est dessiné et quelle taille il a.

Par exemple, voici un heatmap de la valeur moyenne de chaque pixel pour les caractères N dans notre échantillon:

Et voici une fois redimensionné et centré:

On voit que les pixels plus foncés représentent une meilleure tendance pour la forme du N

Voici le P avant et après:



Par contre, ce processus a engendré quelques faiblesses, notamment au niveau des caractères Z, J et W:



Cette faiblesse est due au fait que ces caractères ont plusieurs styles (largeur et hauteur) possibles donc la moyenne n'est pas aussi forte que les I ou les T qui se retrouvent généralement au même endroit après le processus de redimensionnement et recentrage:




Wednesday, September 20, 2017

Semaine 5 Cours 1

Aujourd'hui nous avons continué d'essayer d'entraîner nos réseaux de neurones selon une tactique un peu différente: Chaque réseau a maintenant un caractère désignant que les pixels en entré ne sont pas supposés faire partie du réseau. Nous avons essayé d'entraîner chaque réseau un à un et nous avons comparé les résultats selon les échantillons de caractères pour déterminer le taux de réussite global. Ce taux n'a pas dépassé 55%, mais dans 14% des cas, le 2ème caractère détecté était le bon, et dans 7.8% des cas, c'était le 3ème. 10% des caractères entrés n'était pas dans les 7 caractères proposés et donc sont considérés comme des échecs du réseau.

Friday, September 15, 2017

Semaine 4 Cours 2

Aujourd'hui nous avons continué l'expérimentation en essayant notre idée de cerveau central tel que décrit au dernier cours. Les résultats ont été peu conclusifs, mais nous gardons l'idée de séparer en plusieurs cerveaux, de sorte qu'on n'aura qu'à passer le caractère dans tous les cerveaux pour afficher les meilleures correspondances. Nous avons essayé de regrouper les caractères similaires ensemble et ensuite des caractères différents. Il reste à entraîner les cerveaux plus amplement et ensuite intégrer la détection directement dans l'interface graphique.

Wednesday, September 13, 2017

Semaine 4 Cours 1

Aujourd'hui nous avons continué des tests d'entraînement avec un échantillon de 1600 caractères dessinés ayant une dimension de 16 pixels par 16 pixels.

En mettant tous les caractères ensemble, le réseau a beaucoup de difficulté à apprendre les particularités de chaque caractère. Par contre, en limitant l'entraînement aux caractères A, B et C, le réseau a bien été entraîné et semble bien apprendre la différence et est capable de détecter d'autres A, B, ou C qu'il n'a jamais vu précédemment.

Donc, nous pensons diviser l'entraînement sur plusieurs réseaux qui se limiteront à quelques caractères chacun, avec un réseau central qui s'occupera de rediriger la combinaison de pixel vers le bon réseau.

Friday, September 8, 2017

Semaine 3 Cours 2

Aujourd'hui nous avons fait d'autres tests avec pybrain pour essayer d'entraîner notre réseau et les résultats ont encore une fois été non conclusifs. Le processus de training est lent et victime d'overfitting, c'est-à-dire que le réseau s'entraîne uniquement sur les lettres qu'il connaît déjà au lieu de reconnaître les patterns tel que voulu.

Nous avons pris la décision de réduire la résolution de chaque lettre à 16x16 pixels. De cette façon, le nombre d'inputs dans le réseau de neurones a été coupé en 4.

L'interface ressemble donc à ceci pour l'instant:


Wednesday, September 6, 2017

Semaine 3 Cours 1

Aujourd'hui nous nous sommes amusés avec un algorithme de back propagation déjà existant trouvé sur internet. Nous avons essayé d’entraîner le réseau de neurones selon les caractères dessinés au dernier cours. Le résultat n'est pas conclusif, l'algorithme d'entrainement prend trop de temps à arriver à une erreur minime et quand on lui donne moins de caractères, il ne reconnait que ceux qui lui ont été donnés et non d'autres exemples dessinés par la suite.

Il faudra tester d'autres librairies de Neural Network, ou laisser le script rouler plusieurs heures, et à la limite se contenter de chiffres et non des lettres pour avoir moins de caractères à apprendre au réseau.

Friday, September 1, 2017

Semaine 2 Cours 2

Aujourd'hui, nous avons travaillé à améliorer l'interface. Le code a été réutilisé pour être plus propre en style orienté objet

Un bouton "reset" a été créé qui permet à l'utilisateur d'effacer la grille

Ce sera le même interface qui sera utilisé lors de la démonstration finale, avec les caractères détectés à droite de l'écran.

Le code a ensuite été arrangé pour qu'on puisse appuyer sur une touche du clavier pour enregistrer et exporter l'état de la grille dans un fichier texte qui catalogue quels pixels donnent quel caractère:

1 = Pixel noir, 0 = Pixel blanc.
Les rangées et colonnes blanches ont été enlevées de sorte à ce que le caractère soit toujours collé au coin supérieur gauche

Éventuellement, ce fichier texte sera utilisé lors de l'entrainement du réseau de neurones. Plus il y a d'échantillons de lettres, plus le réseau aura de chance d'apprendre les patterns.