Алгоритм и программа распознавания рукописей на основе нейронной модели

1.Kirish

Ko’pgina tashkilotlarda mijozlar tomonidan to’ldiriladigan hujjatlarning aksariyati qo’lda bosma harflar bilan to’ldirish talab etiladi. Bu hujjatlarni elektron variantini yaratish esa ma’lum darajada ko’p vaqtni sarflaydi. Ishining maqsadi yuqoridagi kabi to’ldirilgan hujjatlarni elektron variantini yaratishni tezlashtiruvchi algoritm va dasturiy vositani ishlab chiqish.

Sun’iy neyron tarmoqlari belgilarni tanishda yetarli darajada keng qo’llaniladi. Belgilarni tanish uchun neyron tarmoqlarining ishlatilish algoritmi ko’pincha quyidagicha hosil qilinadi. Tanish ishga tushganda belgi tasviri ayrim standart o’lchamlarga keltirilidi. Qoida bo’yicha rastr 16x16 piksel o’lchamda ishlatiladi. Bunday normallashtirilgan misollar 1-rasmda ko’rsatilgan.

Of Rk/1P5f J

W.YL17W

ZPDX ^6 К

1-rasm.

Tanish ishonchliligi va hisoblash resurslaridagi dastur ehtiyoji ko’pincha neyron tarmog’i parametrlari va strukturasini tanlashga ham bog’liq bo’ladi. Raqamli pochtali kodlar (ZIP-kodlar) ni tanish uchun ishlab chiqilgan neyron tarmoqlarida ifodalangan. Raqam tasviri umumiy o’lchamga (16x16 piksel) keltiriladi. Olingan tasvir uchta ichki darajaga va yuqori darajadagi 10 ta tugunga ega bo’lgan neyron tarmog’i kirishiga uzatiladi. Tarmoq ichki qatlami to’liq bog’liqlikka ega bo’lmaydi. Quyi darajadagi tugunlar birgalikda umumiy vazn to’plamini ishlatadi. Mutaxassis maqsadiga ko’ra, bular hammasi tasvirdagi dastlabki belgilangan tarmoqning quyi darajadagi layoqatini oshirish kerak.

Bunday ko’rinishda olingan neyron tarmog’ida 1256 ta tugun va 9760 ta mustaqil parametrlari bo’ladi. Tarmoqning layoqatliligini oshirishda xotira va kerakli hisoblash natijasi umumlashtirilgan va kichiklashtirilgan bo’lishi uchun kam ishlatiladigan vaznlar uzoqlashtirilgan bo’ladi. Natijada mustaqil parametrlar soni to’rt baravarga kamayadi. Neyron tarmoqlarini o’rganish 7300 ta belgilar ichidagi to’plamda, testlash 2000 ta belgilar ichidagi to’plamda o’tkazildi. Tanish xatoligi o’rganilayotgan to’plamda taxminan 1% ni va tekshirilayotganda 5% ni tashkil qiladi.

Normallashtirilgan rastr tugunlaridagi yorug’lik qiymati o’rniga neyron tarmoqlarining kiruvchi parametrlari sifatida yorug’lik darajalar farqi qiymati ishlatiladi. Bunday kiruvchi parametrlar harf uchini yaxshiroq belgilashga imkon beradi. Bunday kiruvchi parametrlardan foydalanadiga qo’lyozma raqamlarni tanish tizimida ko’rsatilgan. Tanishga kirishishganda tasvir 16x16 piksel o’lchamga keltiriladi. Bundan keyin ular yuqori yorug’lik darajalar farqi qiymati bilan sohani belgilash maqsadida qo’shimcha qayta ishlanadi. Ishlatiladigan neyron tarmog’i faqat bitta ichki sathga ega boladi, lekin boshqa algoritmlar bilan birga qo’llaniladi. O’rganish testlash uchta mustaqil ma’lumotlar bazasidan olingan belgilarda o’tkazilgan. Har bir ma’lumotlar bazasida o’rganish uchun 4000 dan 6000 tagacha belgi, testlash uchun 2000 dan 4000 tagacha belgi ishlatiladi. Xatolik foizi testlash o’tkaziladigan ma’lumotlar bazasiga bog’liq holda jiddiy ravishda o’zgaradi va 0.60%-2.2% ni tashkil qiladi[1-3].

Tanish aniqligini oshirishda keng qo’llaniladigan usullardan biri – bir vaqtda bir necha turli tanuvchi modullardan foydalanish va keyingi olingan natijalarni birlashtirish hisoblanadi. Bunda bu modullardan foydalanadigan algoritm yanada mustaqil bo’lishi juda muhim. Bunga o’rganilayotgan ma’lumotlar maxsus to’plami kabi turli tanish algoritmlaridan foydalanayotgan tanish modullarini ishlatish hisobiga erishilishi mumkin.

Bunday metodlardan biri bir necha yil ilgari taklif qilingan edi va uch tanuvchi moduldan foydalanishga asos solingan. Birinchi mashina oddiy shaklda o’rgatiladi. Ikkinchi mashina birinchi mashina yordamida filtrlangan belgilarda o’rgatiladi, shuningdek, ikkinchi mashina birinchi mashina tanigan 50% to’g’ri va 50% noto’g’ri tanigan belgilar aralashmasini ko’radi.

Nihoyat, uchinchi mashina 1- va 2- maninalar tanish natijalari farqidagi belgilarda o’rgatiladi. Testlashda taniladigan belgilar uch ta mashina kirishiga yuboriladi. Uch ta mashina chiqishidan olinayotgan baholar qo’shiladi. Eng katta umumlashgan baho olgan belgi tanish natijasi sifatida chiqariladi.

2 .Masalaning qo’yilishi

Sun’iy neyron tarmog’i kirishiga tanilishi kerak bo’lgan belgi berilayapti. Sun’iy neyron tarmog’i o’zining koeffisientlari hisobini ishlab chiqadi va natijani chiqaradi. Sun’iy neyron tarmog’ini faqat unga yaqin (buzilgan va shovqinli) yoki o’rgatilgan belgilar tanishi mumkin.

2-rasm. Neyron tarmog’ining ishlatilish sxemasi.

Kichik kvadrat usuliga binoan neyron tarmog’ining kichiklashadigan maqsad funksiyasi miqdori quyidagicha:

E ( - ) = 1 E ( y jN - ■■  ) 2

² j , p

Bu yerda y(jN,p) – j chiqish qatlami real chiqish holatining N neyron tarmog’i p-kirish tasviriga uzatishi; d – bu neyronning ideal chiqish holati.

Yig’indi tasvirning hamma neyron chiqish qatlamlariga va hamma qayta ishlanadigan tarmog’iga kiritiladi. Kichiklashtirish vaznlar koeffisientini bildiruvchi quyidagi pasayish gradienti usuli bilan kiritiladi:

Δ w iⁿj

∂ E

- η ⋅ ∂ w ij

Bu yerda w ij - n-1 qatlamning i-neyronini j-neyron n qatlamiga bog’lovchi vaznlar koeffisienti, h – o’rgatish tezligi koeffisienti, 0

3 .Tasvirni tanuvchi dastur interfeysi

Tasvirni tanuvchi dastur interfeysi, tasvirni tanishni amalga oshiradi.

3-rasm. Dasturning natija chiqgandagi oynasi

Shuningdek, tasvirni tanishda modelning asl nusxasi ham keltiradi. Dasturning panelida “Model” qismining “Hamma o’xshashliklarni ko’rish” bo’limida kiritilgan belgiga o’xshash belgilar vazni o’xshashliklari ham ko’rsatiladi.

4-rasm. Interfeys menyusi.

Vazn o’xshashlik koeffisentlarini hisoblashda qanchalik qaysi harfga o’xshashliklari keltirilgan son qiymatlaridan iborat bo’ladi. Eng katta qiymatga egasi tanilgan belgi, natija sifatida beriladi.

4-rasm. Dasturning natijasida kiritilgan belgining vazni.

Bundan tashqari bu dasturda belgini chizishdan oldin u qanday koordinatalarda va qay tarzda joylashishini ko’rish mumkin. Buning uchun dasturning panelida “Model” qismining “Modelni ko’rish” bo’limida istalgan harfni kiritib ko’ramiz:

5-rasm.Interfeys menyusi.

6-rasm. Modelni ko’rishun belgini kiritish

7-rasm. Dastur penelidagi “Model” qismining “Modelni ko’rish” bo’limi.

4.Xulosa

Ishning natijasi qo’lyozma shaklida to’ldirilgan hujjatlarni elektron ko’rinishga o’girib berishda qo’llanilishi mumkin. Ulardan ko’p hujjat talab qiladigan tashkilotlarda ishning samaradorligini oshirish va vaqtni tejash uchun foydalanish mumkin.

FOYDALANGAN ADABIYOTLAR

• 1.     Y. LeCun, O.Matan, B.Boser, J.S.Denker, D.Henderson, R.E.Howard,

  W.Hubbard, L.D.Jackel, H.S.Baird. “Handwritten Zipcode Recognition With Multilayer Networks,” Proc. of International Conference on Pattern Recognition , Atlantic City, 1990.

• 2.     A. Krzyzak, W. Dai, C.Y.Suen. “Unconstrained Handwritten Character

  Classification Using Modified Backpropagation Model,” Proc. 1^st Int. Workshop on Frontiers in Handwriting Recognition , Montreal, Canada, Стр.155-166, 1990.

• 3.     Seong-Wang Lee, Young Joon Kim. “Off-line Recognition of Totally

  Unconstrained Handwritten Numerals Using Multilayer Cluster Neural Network.” Proc. Of the 12^th IAPR International Conference on Pattern Recognition. Jerusalem, Israel. 1994. Стр. 507509.

• 4.     R. Schapire, “The Strength of Weak Learnability,” Machine Learning. 5 197-227

• 5.     H.Drucker, R.Schapire, P.Simard. “Boosting Performance in Neural Networks.”

• 6.     Fukushima, K. (1988). Neocognition: a hierarchical neural network capable of

International Journal of Pattern Recognition and Artificial Intelligence. 7 705-720 (1993).

visual pattern recognition. Neural Networks 1 (2), Стр. 119-130.