دانلود پاورپوینت کامل شبکه های عصبی مصنوعی وروان عصبی

\n

عنوان های پاورپوینت  : 

\n

\n

شبکه عصبی چیست؟

\n

شبکه  عصبی چه قابلیتهائی دارد؟

\n

پرسپترون برای  مثالهای آموزشی مقادیر صحیح را ایجاد نماید؟

\n

دو راه مختلف :

\n

قانون پرسپترون

\n

قانون دلتا

\n

مرور الگوریتم BP

\n

استفاده ازشبکه های مختلف با مقادیر متفاوتی برای وزنهای اولیه

\n

قدرت نمایش توابع

\n

روشهای دیگر

\n

The learned weights

\n

شبکه چه چیزی را یاد میگیرد؟

\n

انواع اتصالات شبکه

\n

انواع مختلف یادگیری

\n

چگونه میتوان فهمید که این مدل صحیح است؟

\n

اعمال Backpropagation به تشخیص اشیا

\n

\n \n\n

---

\n\n

قسمت ها و تکه های اتفاقی از فایل

\n

شبکه عصبی چیست؟

\n

روشی برای محاسبه است که بر پایه اتصال به هم پیوسته چندین واحد  پردازشی  ساخته میشود.

\n

شبکه از تعداد دلخواهی سلول یا گره یا واحد یا نرون تشکیل میشود  که مجموعه ورودی را به خروجی ربط میدهند.

\n

\n

شبکه  عصبی چه قابلیتهائی دارد؟

\n

محاسبه یک تابع  معلوم

\n

تقریب یک تابع ناشناخته

\n

شناسائی الگو

\n

پردازش  سیگنال

\n

یادگیری

\n

الهام از طبیعت

\n

مطالعه شبکه های عصبی مصنوعی تا حد زیادی ملهم از سیستم های یادگیر طبیعی است که در آنها یک مجموعه پیچیده از نرونهای به هم متصل  در کار یادگیری دخیل هستند.

\n

گمان میرود که مغز انسان از تعداد 10 11 نرون تشکیل شده باشد که هر نرون با تقریبا 104 نرون دیگر در ارتباط است.

\n

سرعت سوئیچنگ نرونها در حدود 10-3 ثانیه است که در مقایسه با کامپیوترها 10 -10 ) ثانیه ( بسیار ناچیز مینماید. با این وجود آدمی قادر است در 0.1 ثانیه  تصویر یک انسان را بازشناسائی نماید. این قدرت فوق العاده باید از پردازش موازی توزیع شده در تعدادی زیادی از نرونها حاصل شده باشد.

\n

یک پرسپترون میتواند بسیاری از توابع بولی را نمایش دهد نظیر AND, OR, NAND, NOR

\n

اما نمیتواند  XORرا نمایش دهد

\n

در واقع هر تابع بولی را میتوان با شبکه ای دوسطحی از پرسپترونها  نشان داد.

\n

اضافه کردن بایاس

\n

افزودن بایاس موجب میشود تا استفاده از شبکه پرسپترون با سهولت بیشتری انجام شود.

\n

برای اینکه برای یادگیری بایاس نیازی به استفاده از قانون دیگری نداشته باشیم بایاس را بصورت یک ورودی با مقدار ثابت 1 در نظر گرفته و وزن W0 را به آن اختصاص میدهیم.

\n

چگونه وزنهای یک پرسپترون واحد را یاد بگیریم به نحوی که پرسپترون برای  مثالهای آموزشی مقادیر صحیح را ایجاد نماید؟

\n

دو راه مختلف :

\n

قانون پرسپترون

\n

قانون دلتا

\n

 اگر در سطح خطا  چندین مینیمم محلی وجود داشته باشد تضمینی وجود ندارد که الگوریتم  مینیمم مطلق را پیدا بکند.

\n

\n

در ضمن این روش وقتی قابل استفاده است که:

\n

فضای فرضیه دارای فرضیه های پارامتریک پیوسته باشد.

\n

رابطه خطا قابل مشتق گیری باشد.

\n

تقریب افزایشی gradient descent

\n

میتوان بجای تغییر وزنها پس از مشاهده همه  مثالها، آنها را  بازا هر مثال مشاهده شده تغییر داد. در این حالت وزنها بصورت افزایشی incremental تغییر میکنند.  این روش را  stochastic gradient descent نیزمینامند.

\n

wi = η (t-o) xi

\n

در بعضی موارد تغییر افزایشی وزنها میتواند از بروز مینیمم محلی جلوگیری کند. روش استاندارد نیاز به محاسبات بیشتری دارد درعوض میتواند طول  step بزرگتری هم داشته باشد.

\n

مقایسه آموزش یکجا و افزایشی

\n

شبکه های چند لایه

\n

مثال

\n

یک سلول واحد

\n

تابع سیگموئید

\n

الگوریتم  Back propagation

\n

برای یادگیری وزن های یک شبکه چند لایه از روش  Back Propagation استفاده میشود. در این روش با  استفاده از gradient descent سعی میشود تا  مربع خطای بین خروجی های شبکه و تابع هدف مینیمم شود.

\n

خطا بصورت زیر تعریف میشود:

\n

الگوریتم Back propagation

\n

فضای فرضیه مورد جستجو در این روش عبارت است از فضای بزرگی که توسط همه مقادیر ممکن برای وزنها تعریف میشود. روش  gradient descent سعی میکند تا با مینیمم کردن خطا به فرضیه مناسبی دست پیدا کند. اما تضمینی برای اینکه این الگوریتم به مینیمم مطلق برسد وجود ندارد.

\n

معمولا الگوریتم BP پیش از خاتمه هزاران بار با استفاده  همان داده های آموزشی تکرار میگردد شروط مختلفی را میتوان برای خاتمه الگوریتم  بکار برد:

\n

توقف بعد از تکرار به دفعات معین

\n

توقف وقتی که خطا از یک مقدار تعیین شده کمتر شود

\n

توقف وقتی که خطا در مثالهای مجموعه تائید از قاعده خاصی پیروی نماید

\n

اگر دفعات تکرار کم باشد خطا خواهیم داشت و اگر زیاد باشد مسئله Overfitting رخ خواهد داد.

\n

برای پرهیز از مینیمم محلی روشهای مختلفی وجود دارد:

\n

افزودن ممنتم

\n

استفاده از stochastic gradient descent

\n

استفاده ازشبکه های مختلف با مقادیر متفاوتی برای وزنهای اولیه

\n

افزودن ممنتم

\n

میتوان قانون تغییر وزنها را طوری در نظر گرفت که تغییر وزن در تکرار n ام تا حدی به  اندازه تغییروزن در تکرار قبلی بستگی داشته باشد.

\n

ΔWji (n) = η δj Xji  +   αΔWji (n-1)

\n

\n

که در آن مقدارممنتم  α  بصورت 0 <= α <= 1 میباشد.

\n

افزودن ممنتم باعث میشود تا با حرکت در مسیر قبلی در سطح خطا:

\n

قدرت نمایش توابع

\n

گرچه قدرت نمایش توابع به توسط یک شبکه feedforward بسته به عمق و گستردگی شبکه دارد، با این وجود موارد زیر را میتوان به صورت قوانین کلی بیان نمود:

\n

توابع بولی: هر تابع بولی را میتوان توسط یک شبکه دو لایه پیاده سازی نمود.

\n

توابع پیوسته: هر تابع پیوسته محدود را میتوان توسط یک شبکه دو لایه تقریب زد. تئوری مربوطه در مورد شبکه هائی که از تابع سیگموئید در لایه پنهان و لایه خطی در شبکه خروجی استفاده میکنند صادق است.

\n

توابع دلخواه: هر تابع دلخواه را میتوان با یک شبکه سه لایه تا حد قابل قبولی تفریب زد.

\n

فضای فرضیه و بایاس استقرا

\n

فضای فرضیه  مورد جستجو را میتوان بصورت یک فضای فرضیه اقلیدسی n بعدی از وزنهای شبکه در نظر گرفت )کهn تعداد وزنهاست(

\n

یکی از خواص BP این است که میتواند در لایه های پنهان شبکه ویژگیهای نا آشکاری از داده ورودی نشان دهد.

\n

قدرت نمایش لایه پنهان

\n

نمودارخطا

\n

قدرت تعمیم و overfitting

\n

دلایل رخ دادن overfitting

\n

overfitting ناشی از تنظیم وزنها برای در نظر گرفتن مثالهای نادری است که ممکن است با توزیع کلی داده ها مطابقت نداشته باشند. تعداد زیاد وزنهای یک شبکه عصبی باعث میشود تا  شبکه درجه آزادی زیادی برای انطباق با این مثالها داشته باشد.

\n

با افزایش تعداد تکرار، پیچیدگی فضای فرضیه یادگرفته شده توسط الگوریتم بیشتر و بیشتر میشود تا شبکه بتواند نویز و مثالهای نادر موجود   در مجموعه آموزش را بدرستی ارزیابی نماید.

\n

راه حل

\n

روشهای دیگر

\n

راه های بسیار متنوعی برای  ایجاد شبکه های جدید وجود دارد از جمله:

\n

استفاده از تعاریف دیگری برای تابع خطا

\n

استفاده از روشهای دیگری برای کاهش خطا در حین یادگیری

\n

Hybrid Global Learning

\n

Simulated Annealing

\n

Genetic Algorithms

\n

استفاده از توابع دیگری در واحدها

\n

Radial Basis Functions

\n

استفاده از ساختار های دیگری برای شبکه

\n

Recurrent Network

\n

مثال: تشخیص ارقام

\n

فرض کنید بخواهیم با استفاده از یک شبکه دو لایه ارقام دستنویس را تشخیص دهیم.

\n

نرونهای لایه اول شدت روشنائی پیکسلها را تقریب میزنند ونرونهای لایه آخر شکل ارقام را تعیین میکنند.

\n

\n

روشی که وزنها یاد گرفته میشوند:

\n

\n

شکل گیری وزنها:

\n

\n

\n

\n

\n

The learned weights

\n

شبکه چه چیزی را یاد میگیرد؟

\n

در این مثال  یک شبکه با دو لایه معادل با استفاده از یک سری template یا قالب است که شبکه قالبی را که بهترین تطبیق با ورودی را داشته باشد بر میگزیند!

\n

اما برای مسئله ارقام دستنویس شکلهای ورودی بسیار متنوع هستند لذا یک قالب ساده که با همه ورودیها سازگار باشد وجود ندارد. در نتیجه چنین شبکه ای هم نمیتواند راه حل مسئله در حالت کلی باشد!

\n

برای اینکه بتوان مسئله را در حالت کلی حل نمود بایدشکل های ورودی به مجموعه ای از ویژگی ها تبدیل شده و شبکه را بر اساس ویژگی ها آموزش داد.

\n

مثالی از تنوع ارقام دستنویس

\n

انواع اتصالات شبکه

\n

\n

۳۰ تا ۷۰ درصد پروژه / پاورپوینت / پاور پوینت / سمینار / طرح های کار افرینی / طرح توجیهی /  پایان

\n

نامه/  مقاله ( کتاب ) های اماده   به صورت رایگان میباشد