1. شبکه عصبی تنظیم: بهروز نصرالهی-فریده امدادی استاد محترم: سرکار خانم کریمی دانشگاه آزاد اسلامی واحد شهرری

2. شبکه عصبی چیست؟ ( به طور کلی)
شبکه عصبی مصنوعی روشی عملی برای یادگیری توابع گوناگون نظیر توابع با مقادیر حقیقی، توابع با مقادیر گسسته و توابع با مقادیر برداری میباشد.
یادگیری شبکه عصبی در برابر خطاهای داده های آموزشی مصون بوده و اینگونه شبکه ها با موفقیت به مسائلی نظیر شناسائی گفتار، شناسائی و تعبیر تصاویر، و یادگیری روبات اعمال شده است.
شبکه از تعداد دلخواهی سلول یا گره یا واحد و یا نرون تشکیل میشود که مجموعه ورودی ها را به خروجی ربط میدهد.

3. ساختار شبکه‌های عصبی
یک شبکه عصبی شامل اجزای سازنده لایه‌ها و وزن‌ها می‌باشد. رفتار شبکه نیز وابسته به ارتباط بین اعضا است. در حالت کلی در شبکه‌های عصبی سه نوع لایه نورونی وجود دارد:
لایه ورودی: دریافت اطلاعات خامی که به شبکه تغذیه شده‌است.
لایه‌های پنهان: عملکرد این لایه‌ها به وسیله ورودی‌ها و وزن ارتباط بین آنها و لایه‌های پنهان تعیین می‌شود. وزن‌های بین واحدهای ورودی و پنهان تعیین می‌کند که چه وقت یک واحد پنهان باید فعال شود.
لایه خروجی: عملکرد واحد خروجی بسته به فعالیت واحد پنهان و وزن ارتباط بین واحد پنهان و خروجی می‌باشد.

4. چرا از شبکه های عصبی استفاده می کنیم؟
* قابلیت قابل توجه شبکه های عصبی در استنتاج معانی از داده های پیچیده یا مبهم
* قابلیت بکارگیری به عنوان یک متخصص

5. انواع شبكه عصبي شبكه عصبي پرسپترون شبكه عصبي هاپفيلد شبكه عصبي همينگ
شبكه عصبي كوهنن
شبكه عصبي انتشار رو به عقب
شبكه عصبي تاخير زماني

6. مزایای شبکه‌های عصبی
1. یادگیری تطبیقی : توانایی یادگیری اینکه چگونه وظایف خود را بر اساس اطلاعات داده شده به آن و یا تجارب اولیه انجام دهد در واقع اصلاح شبکه را گویند.
2. خود سازماندهی : یک شبکه عصبی مصنوعی به صورت خودکار سازماندهی و ارائه داده‌هایی که در طول آموزش دریافت کرده را انجام دهد. نورون‌ها با قاعدهٔ یادگیری سازگار شده و پاسخ به ورودی تغییر می‌یابد.
3. عملگرهای بی‌درنگ : محاسبات در شبکه عصبی مصنوعی می‌تواند به صورت موازی و به وسیله سخت‌افزارهای مخصوصی که طراحی و ساخت آن برای دریافت نتایج بهینه قابلیت‌های شبکه عصبی مصنوعی است انجام شود.

7. 4. تحمل خطا : با ایجاد خرابی در شبکه مقداری از کارایی کاهش می‌یابد ولی برخی امکانات آن با وجود مشکلات بزرگ همچنان حفظ می‌شود.
5. دسته بندی : شبکه‌های عصبی قادر به دسته بندی ورودی‌ها بر ای دریافت خروجی مناسب می‌باشند.
6. تعمیم دهی : این خاصیت شبکه را قادر می‌سازد تا تنها با برخورد با تعداد محدودی نمونه، یک قانون کلی از آن را به دست آورده، نتایج این آموخته‌ها را به موارد مشاهده از قبل نیز تعمیم دهد. توانایی که در صورت نبود آن سامانه باید بی نهایت واقعیت‌ها و روابط را به خاطر بسپارد.
7. پایداري ، انعطاف پذیری : یک شبکه عصبی هم به حد کافی پایدار است تا اطلاعات فراگرفته خود را حفظ کند و هم قابلیت انعطاف و تطبیق را دارد و بدون از دست دادن اطلاعات قبلی می‌تواند موارد جدید را بپذیرد.

8. معایب شبکه‌های عصبی
با وجود برتری‌هایی که شبکه‌های عصبی نسبت به سامانه‌های مرسوم دارند، معایبی نیز دارند که پژوهشگران این رشته تلاش دارند که آنها را به حداقل برسانند، از جمله:
قواعد یا دستورات مشخصی برای طراحی شبکه جهت یک کاربرد اختیاری وجود ندارد.
در مورد مسائل مدل سازی، صرفاً نمی‌توان با استفاده از شبکه عصبی به فیزیک مساله پی برد. به عبارت دیگر مرتبط ساختن پارامترها یا ساختار شبکه به پارامترهای فرایند معمولاً غیر ممکن است.
دقت نتایج بستگی زیادی به اندازه مجموعه آموزش دارد.
آموزش شبکه ممکن است مشکل ویا حتی غیر ممکن باشد.
پیش بینی عملکرد آینده شبکه (عمومیت یافتن) آن به سادگی امکان پذیر نیست.

9. محاسبه یک تابع معلوم تقریب یک تابع ناشناخته شناسائی الگو پردازش سیگنال
از جمله قابليت هاي شبكه هاي عصبي ميتوان به موارد زير اشاره كرد:
محاسبه یک تابع معلوم
تقریب یک تابع ناشناخته
شناسائی الگو
پردازش سیگنال
یادگیری

10. شبكه عصبي مصنوعي چيست؟
شبکه عصبی مصنوعی یک سامانه پردازشی داده‌ها است که از مغز انسان ایده گرفته و پردازش داده‌ها را به عهده پردازنده‌های کوچک و بسیار زیادی سپرده که به صورت شبکه‌ای به هم پیوسته و موازی با یکدیگر رفتار می‌کنند تا یک مسئله را حل نمایند. در این شبکه‌ها به کمک دانش برنامه نویسی، ساختار داده‌ای طراحی می‌شود که می‌تواند همانند نورون عمل کند. که به این ساختارداده نورون گفته می‌شود. بعد باایجاد شبکه‌ای بین این نورونها و اعمال یک الگوریتم آموزشی به آن، شبکه را آموزش می‌دهند.
در این حافظه یا شبکه عصبی نورونها دارای دو حالت فعال (روشن یا ۱) و غیرفعال (خاموش یا ۰) اند و هر یال (سیناپس یا ارتباط بین گره‌ها) دارای یک وزن می‌باشد. یال‌های با وزن مثبت، موجب تحریک یا فعال کردن گره غیر فعال بعدی می‌شوند و یال‌های با وزن منفی، گره متصل بعدی را غیر فعال یا مهار (در صورتی که فعال بوده باشد) می‌کنند.

11. آشنایی با شبکه های عصبی زیستی
آشنایی با شبکه های عصبی زیستی
این شبکه ها مجموعه ای بسیار عظیم از پردازشگرهایی موازی به نام نورون اند که به صورت هماهنگ برای حل مسئله عمل می کنند و توسط سیناپس ها(ارتباط های الکترومغناطیسی)اطلاعات را منتقل می کنند.در این شبکه ها اگر یک سلول آسیب ببیند بقیه ی سلولها می توانند نبود آنرا جبران کرده و نیز در بازسازی آن سهیم باشند.
این شبکه ها قادر به یادگیری اند.مثلا با اعمال سوزش به سلولهای عصبی لامسه، سلولها یاد می گیرند که به طرف جسم داغ نروند و با این الگوریتم سیستم می آموزد که خطای خود را اصلاح کند.
یادگیری در این سیستم ها به صورت تطبیقی صورت می گیرد، یعنی با استفاده ازمثال ها وزن سیناپس ها به گونه ای تغییر می کند که در صورت دادن ورودی های جدید سیستم پاسخ درستی تولید کند.

12. به طور خلاصه یک شبکه عصبی باید خصوصیات زیر را داشته باشد:
 بتواند الگوها را طبقه بندی کند.
به اندازه کافی کوچک باشد تا از نظر فیزیکی واقع گرایانه باشد.
با به کار گیری آموزش، قابل برنامه ریزی باشد و قدرت یادگیری داشته باشد. یعنی توانایی تنظیم پارامترهای شبکه ( اوزان سیناپتیکی )، در مسیر زمان که محیط شبکه تغییر می کند و شبکه وارد شرایط جدیدی می شود. هدف از این کار این است که اگر شبکه برای یک وضعیت خاص آموزش دید و تغییر کوچکی در شرایط محیطی شبکه رخ داد، شبکه بتواند با آموزش مختصر، برای شرایط جدید نیز کارآمد باشد. دیگر این که اطلاعات در شبکه های عصبی در سیناپس ها ذخیره و هر نرون در شبکه به صورت بالقوه از کل فعالیت سایر نرون ها تأثیر می پذیرد. در نتیجه اطلاعات از نوع مجزا از هم نبوده و متأثر از کل شبکه می باشد.
توانایی تعمیم را با استفاده از مثال های ارائه شده در فرآیند آموزش، داشته باشد.

13. کاربردهای شبکه های عصبی مصنوعی
امروزه شبكه‌های عصبی در كاربردهای مختلفی نظير مسائل تشخيص الگو(Pattern Recognition) كه خود شامل مسائلی مانند تشخيص خط(Character Recognition)
، شناسايی گفتار(Speech Recognition)، پردازش تصوير(Image Processing)
و مسائلی ازاين دست می‌شود و نيز مسائل دسته‌بندي(Classification) مانند دسته‌بندی (Classification Problems)متون و يا تصاوير،به كار می‌روند.دركنترل يا مدل‌سازی سيستم‌هايی كه ساختار داخلی ناشناخته يا بسيار پيچيده‌ای دارند نيز به صورت روز افزون از شبكه‌های عصبی مصنوعی استفاده می‌شود . به عنوان مثال می‌توان در كنترل ورودی يك موتور از يك ANN استفاده نمود كه در اين صورت شبكه عصبی خود تابع كنترل را ياد خواهد گرفت.

14. کاربردهای شبکه های عصبی :
تشخیص بیماری
تشخیص چهره
انواع جدید سنسورها
پیگیری هدف
هدایت جنگ افزارها
شناسایی تصویر /سیگنال
بینایی ماشین
مدل کردن غیر خطی
ترکیب صدا
کنترل فرآیند ساخت
آنالیز مالی

15. کاربردهای شبکه های عصبی :
اختصار سخن
بازبینی امضا
ارزیابی سرمایه
پیش بینی فروشهای آینده و نیازهای محصول
کلاسه بندی نمودارهای مشتری/بازار
پیش بینی هوا
پیش بینی محصول
مدل کردن کنترل فرآیند
تشخیص هدف
شبیه سازی مسیر

16. کاربردها: 1. هوا و فضا · خلبان خودکار هواپيما با کارايی بالا
·        خلبان خودکار هواپيما با کارايی بالا
·        شبيه سازی مسير پرواز
·        سيستم های کنترلی هواپيما
·        بالا بردن کارايی خلبان خودکار
·        شبيه سازی اجزای هواپيما
·        تشخيص خطا در اجزای هواپيما

17. کاربردها: 2. حمل و نقل · سيستم راهنمای اتوماتيک اتومبيل
·        سيستم راهنمای اتوماتيک اتومبيل
·        تحليل گارانتی
·        سيستم های ترمز کاميون ها
·        زمان بندی وسايل نقليه
·        سيستم های مسير يابی

18. 3. امور دفاعی
·        راهبری سلاح ها
·        تعقيب اهداف متحرک
·        تشخيص اشياء
·        تشخيص صورت
·        رادار
·        انواع جديد حسگرها
·        پردازش سيگنال های تصويری و رادار با فشرده سازی داده ها
·        استخراج ويژگی ها و حذف نويزها
·        تشخيص تصاوير و سيگنال ها

19. 4. بانکداری
·        ابزار خودکار خواندن چک و ساير اسناد
·        کاربردهای ارزيابی کارت های اعتباری
5. الکترونيک
·        پيش بينی ترتيب کد
·        طراحی مدارات مجتمع
·        کنترل فرايند
·        تحليل نقص مدارات مجتمع
·        بينايی ماشين
·        توليد صدا
·        مدلسازی غير خطی

20. 6. امور مالی
·        ارزيابی ملک
·        مشاور وام
·        آزمايش رهن
·        درجه بندی شرکت ها
·        تحليل کاربرد خطوط اعتباری
·        برنامه های تجارت سهام
·        تحليل مالی شرکت ها
·        پيش بينی قيمت ها
7. سرگرمی
·        انيميشن
·        جلوه های ويژه تصويری
·        پيش بينی بازار

21. 8. صنعت
شبکه های عصبی را می توان به جای تجهيزات بسيار گرانی که در گذشته، در صنعت مورد استفاده بوده اند، به کار گرفت. به عنوان مثال از شبکه های عصبی می توان برای پيش بينی مقدار گازهای خروجی از کوره برخی از فرايندهای صنعتی، استفاده نمود.
9. بيمه
·        ارزيابی سياست های کاربردی
·        بهينه سازی توليد

22. 10. ساخت و توليد
·        کنترل فرايند ساخت
·        تحليل و طراحی توليد
·        تشخيص فرايند و ماشين
·        تشخيص اجزاء بلادرنگ
·        سيستم های بصری بازرسی کيفيت
·        تحليل کيفيت جوشکاری
·        مديريت و طرح ريزی
·        پيش بينی کيفيت کاغذ
·        تحليل کيفيت چيپ های کامپيوتری
·        تحليل و طراحی توليدات شيميايی
·        تحليل استقرار ماشين
·        پيشنهاد پروژه
·        مدلسازی پويا از فرايندهای شيميايی

23. 11. پزشکی
·        تحليل سلول های سرطانی پستان
·        تحليل EEG و ECG
·        طراحی پروتز
·        بهينه سازی زمان جراحی
·        کاهش هزينه بيمارستان ها
·        بهبود کيفيت بيمارستان ها
12. نفت و گاز
·        اکتشاف
13. رباتيک
·        سيستم های بينايی
·        ربات بالابر

24. 14. امنيت
·        تحليل بازار
·        ارزيابی خودکار
·        سيستم های مشاور تجارت
15. گفتار
·        تشخيص گفتار
·        فشرده سازی گفتار
·        طبقه بندی اصوات
·        ايجاد گفتار از روی متن

25. 16. مخابرات
·        فشرده سازی داده ها و تصاوير
·        سرويس های خودکار شده اطلاعاتی
·        ترجمه گفتار به صورت بلادرنگ
·        سيستم های پردازش پرداخت مشتری
البته لازم به ذکر است که کاربرد شبکه های عصبی در علوم ياد شده، روز به روز در حال گسترش می باشد و هر روزه کاربرد جديدی از اين شبکه ها در مقالات معتبر، توسط پژوهشگران مطرح می گردد.

26. عناصر پردازشی:
سیستم عصبی ما از شمار زیادی عناصر پردازشی فوق العاده بهم پیوسته تشکیل شده که برای حل یک مسأله با هم هماهنگ عمل می کند.
به هر يك از اين عناصر پردازشی فوق العاده يك نرون(neurons) گفته ميشود.

27. چند نکته:
گمان میرودکه مغز انسان از تعداد 11^10نرون تشکیل شده باشد.
هر نرون با تقریبا 4^10نرون دیگر در ارتباط است.
سرعت سوئیچنگ نرونها درحدود 3-^10ثانیه است .
آدمی قادر است در 0.1 ثانیه تصویر یک انسان را بازشناسائی نماید.

28. ساختار نرون: هر نرون طبيعي از سه قسمت اصلي تشكيل شده است :
 هر نرون طبيعي از سه قسمت اصلي تشكيل شده است :
(dendrite) دندريت
(some) بدنه سلول
(axon) اكسون

29. دندريت ها :
دندريت ها به عنوان مناطق دريافت سيگنال هاي الكتريكي هستند كه داراي سطح نامنظم و شاخه هاي انشعابي بي شمار مي باشند.

30. بدنه سلول:
بدنه سلول ، وظیفه تامین انرژی مورد نیاز جهت فعالیت های نرون را به عهده دارد.

31. اكسون :
اكسون بر خلاف دندريت ها از سطحي هموارتر و تعداد شاخه هاي كمتري برخوردار مي باشد. اكسون سيگنال هاي الكتروشيميايي دريافتي از هسته سلول را به نرون هاي ديگر منتقل مي كند.

32. سيناپس :
محل تلاقي يك اكسون از يك سلول به دندريت هاي سلول هاي ديگر را سيناپس مي گويند.
توسط سيناپس ها ارتباطات ما بين نرون ها برقرار مي شود. به فضاي مابين اكسون و دندريت ها فضاي سيناپسي گويند.

33. مبانی ANN ها
 شبکه های عصبی به طور کلی سیستمهای ریاضی یادگیر غیر خطی هستند. طرز کار این شبکه ها از روش کار مغز انسان الگو برداری شده است. در واقع شبکه های عصبی طبق تعریف ماشینی است برای ساخت یک مدل که می توان آن را بوسیله سخت افزار یا نرم افزار شبیه سازی کرد و عملکردی شبیه مغز انسان دارند.
یک شبکه عصبی بر خلاف کامپیوترهای رقومی که نیازمند دستورات کاملا صریح و مشخص است٬ به مدل های ریاضی محض نیاز ندارد بلکه مانند انسان قابلیت یادگیری به وسیله تعدادی مٽال مشخص را دارد. هر شبکه عصبی سه مرحله آموزش٬ اعتبار سنجی و اجرا را پشت سر می گذارد. در واقع شبکه های عصبی را می توان در حل مسایلی که روابط دقیق ریاضی بین ورودی ها و خروجی های آن برقرار نیست بکار برد.
آموزش دیدن شبکه های عصبی در واقع چیزی جز تنظیم وزن های ارتباطی این نرون ها به ازائ دریافت مٽال های مختلف نیست تا خروجی شبکه به سمت خروجی مطلوب همگرا شود.

34. ساختار مغز انسان
مغز انسان به طور مستدل، پيچيده ترين شیء شناخته شده در جهان می باشد. با وجود اينکه مغز انسان در حدود 1.5 گيلو گرم وزن دارد، بيشتر آن را آب تشکيل می دهد و اگر از داخل جمجمه خارج گردد، بطور کامل فروريخته و ويران می شود.

35. ساختار مغز انسان
سلول هايی که در مغز، وظيفه پردازش اطلاعات و توزيع آنها را بر عهده دارند، نرون (Neuron) ناميده می شوند. هر نرون 4 بخش مجزا دارد : هسته سلول، دندريت، اکسون و ترمينال های اکسون. هسته قسمت اصلی و حياتی يک سلول عصبی می باشد. دندريت ها از هسته سلول منشعب می گردند و اطلاعات را بصورت ايمپالس های الکتريکی، از نرون های ديگر به هسته سلول منتقل می کنند.
اکسون ها بر خلاف دندريت ها، از سطحی هموارتر و تعداد شاخه های کمتری برخوردارند. اکسون طول بيشتری دارد و سيگنال الکتروشيميايی دريافتی از هسته سلول را به نرون های ديگر منتقل می کند. محل تلاقی يک اکسون از يک سلول، به دندريت های سلول ديگر را سيناپس می گويند.

36. ساختار مغز انسان
فاصله بين نرون ها در حدود 25nm است که با وجود چنين فاصله کوچکی، نرون ها اطلاعات را به خوبی بين يکديگر رد و بدل می کنند. اين اطلاعات در سيناپس ها مورد پردازش قرار می گيرند.
نرون ها بر اساس ساختارهايی که بين آنها پيام ها هدايت می شوند، به سه دسته تقسيم می گردند:
1. نرون های حسی که اطلاعات را از ارگان های حسی به مغز و نخاع می فرستند.
2. نرون های محرک که سيگنال های فرمان را از مغز و نخاع به ماهيچه ها و غدد هدايت می
کنند.
3. نرون های ارتباطی که نرون ها را به متصل می کنند.

37. ساختار مغز انسان
شکل زیر يک نرون بيولوژيکی را نشان می دهد.

38. شباهت مغز انسان با شبکه های عصبی:
قدرتمند ترین شبکه های عصبی ، شبکه های عصبی بیولوژیک می باشند مغز انسان به او این امکان را می دهد که از تجارب خود استفاده کرده و آنها را تعمیم دهد. شبکه ها از ارتباطات عصبی موجود در مغز انسان الهام گرفته و آنها را روی کامپیوتر های دیجیتال پیاده سازی می کنند. در واقع از مغز و نحوه کار آن بمنظور ساخت کامپیوتر الگوبرداری می نماید. 

39. شباهت مغز انسان با شبکه های عصبی:
اگرچه مكانیسم های دقیق كاركرد مغز انسان (یا حتی جانوران) به طور كامل شناخته شده نیست، اما با این وجود جنبه های شناخته شده ای نیز وجود دارند كه الهام بخش تئوری شبكه های عصبی بوده اند. سلول های عصبی قادرند تا با اتصال به یكدیگر تشكیل شبكه های عظیم بدهند. گفته می شود كه هر نرون می تواند به هزار تا ده هزار نرون دیگر اتصال یابد. قدرت خارق العاده مغز انسان از تعداد بسیار زیاد نرون ها و ارتباطات بین آنها ناشی می شود. ساختمان هر یك از نرون ها نیز به تنهایی بسیار پیچیده است. هر نرون از بخش ها و زیر سیستم های زیادی تشكیل شده است كه از مكانیسم های كنترلی پیچیده ای استفاده می كنند. سلول های عصبی می توانند از طریق مكانیسم های الكتروشیمیایی اطلاعات را انتقال دهند. برحسب مكانیسم های به كاررفته در ساختار نرون ها، آنها را به بیش از یكصدگونه متفاوت طبقه بندی می كنند.

40. شباهت مغز انسان با شبکه های عصبی:
. در اصطلاح فنی، نرون ها و ارتباطات بین آنها، فرایند دودویی(Binary)، پایدار (Stable) یا همزمان (Synchronous) محسوب نمی شوند.
در واقع، شبكه های عصبی شبیه سازی شده یا كامپیوتری، فقط قادرند تا بخش كوچكی از خصوصیات و ویژگی های شبكه های عصبی بیولوژیك را شبیه سازی كنند. در حقیقت، از دید یك مهندس نرم افزار، هدف از ایجاد یك شبكه عصبی نرم افزاری، بیش از آنكه شبیه سازی مغز انسان باشد، ایجاد مكانیسم دیگری برای حل مسائل مهندسی با الهام از الگوی رفتاری شبكه های بیولوژیك است. به طور خلاصه، یك نرون بیولوژیك، پس از دریافت سیگنال های ورودی (به شكل یك پالس الكتریكی) از سلول های دیگر، آن سیگنال ها را با یكدیگر تركیب كرده و پس از انجام یك عمل (operation) دیگر بر روی سیگنال تركیبی، آن را به صورت خروجی ظاهر می سازد.

41. شباهت مغز انسان با شبکه های عصبی:
البته تحقیقات جدید نمایانگر این واقعیت هستند كه نرون های بیولوژیك بسیار پیچیده تر از مدل ساده ای هستند كه در بالا تشریح شد. اما همین مدل ساده می تواند زیربنای مستحكمی برای دانش شبكه های عصبی مصنوعی (Artificial Neural Network = ANN) تلقی گردد و متخصصان گرایش شبكه های عصبی یا هوش مصنوعی می توانند با پیگیری كارهای دانشمندان علوم زیست شناسی، به بنیان گذاری ساختار های مناسب تری در آینده دست بزنند

42. شباهت مغز انسان با شبکه های عصبی:

43. مغز چگونه کار میکند؟
هر نرون از نرونهای دیگری ورودی دریافت میکند برخی نرونها به سلولهای گیرنده متصل هستند.
نرونها با ارسال سیگنالهای الکتریکی با یکدیگر ارتباط برقرار میکنند.
اثر هر ورودی به وزن ارتباط سیناپسی بستگی دارد.
این وزنها به صورت افقی تغییر می یابند تا کل شبکه محاسبات را بدرستی انجام دهند.

44. مغز چگونه کار میکند؟ هر بخش از قشر مغز وظیفه ای خاص دارد.
-آسیب به هر بخش از مغز یک انسان بالغ باعث تاثیرات خاصی میشود.
-در صورت انجام فعالیتهای خاص جریان خون در بخشی از بخشها افزایش می یابد.
بخشهای مختلف قشر مغز بسیار شبیه به هم هستند.
-در صورتیکه بخشی از آن آسیب ببیند بخش دیگر میتواند عهده دار وظایف آن بخش شود در واقع به نظر میرسد همه ی بخشها از یک شیوه ی یادگیری استفاده می کنند.

45. تقسیم بندی شبکه‌های عصبی بر مبنای آموزش
وزن ثابت: آموزشی در کار نیست و مقادیر وزن‌ها به هنگام نمی‌شود. کاربرد: بهینه سازی اطلاعات (کاهش حجم، تفکیک پذیری و فشرده سازی) و حافظه‌های تناظری
آموزش بدون سرپرست: وزن‌ها فقط بر اساس ورودی‌ها اصلاح می‌شوند و خروجی مطلوب وجود ندارد تا با مقایسه خروجی شبکه با آن و تعیین مقدار خطا وزن‌ها اصلاح شود. وزن‌ها فقط بر اساس اطلاعات الگوهای ورودی به هنگام می‌شوند.

46. آموزش با سرپرست: به ازای هر دسته از الگوهای ورودی خروجی‌های متناظر نیز به شبکه نشان داده می‌شود و تغییر وزن‌ها تا موقعی صورت می‌گیرد که اختلاف خروجی شبکه به ازای الگوهای آموزشی از خروجی‌های مطلوب در حد خطای قابل قبولی باشد. چنین شبکه‌ای به طور گسترده برای کارهای تشخیص الگو به کار گرفته می‌شود. آموزش تقویتی: کیفیت عملکرد سامانه به صورت گام به گام نسبت به زمان بهبود می‌یابد. الگوهای آموزشی وجود ندارد اما با استفاده از سیگنالی به نام نقاد بیانی از خوب و یا بد بودن رفتار سامانه بدست می‌آید (حالتی بین یادگیری با سرپرست و بدون سرپرست).

47. توپولوژی شبکه
وضعیت نسبی سلولها در شبکه(تعداد و گروه بندی و نوع اتصالات آنها)را توپولوژی شبکه گویند.توپولوژی در واقع سیستم اتصال سخت افزار نورونها به یکدیگر است که توام با نرم افزار مربوطه (یعنی روش ریاضی جریان اطلاعات و محاسبه ی وزنها)نوع عملکرد شبکه ی عصبی را تعیین می کند. در این توپولوژی یک لایه ی ورودی وجود دارد که اطلاعات را دریافت می کند،تعدادی لایه ی مخفی وجود دارد که اطلاعات را از لایه های قبلی می گیرند و در نهایت یک لایه ی خروجی وجود دارد که نتیجه ی محاسبات به آنجا میرود و جوابها در آن قرار میگیرند.

48. شبکه های عصبی چند لایه یا MLP
x0=1 x1 x2
y0=1 y1 y2 y3
Input
Layer 1
Hidden
Layer 2
Output

49. پاسخ برای ورودی های مجهول
كار با هر شبکه عصبی شامل سه مرحله می باشد: آموزش، تعمیم و اجرا. 1.در مرحله آموزش، شبکه الگوهای موجود در داده هاي ورودي را یاد می گیرد. هر شبکه عصبی برای یادگیری از قانون خاص استفاده می کند. 2. تعمیم، قدرت شبکه عصبی در ایجاد پاسخ های قابل قبول برای ورودی هایی است که عضو مجموعه آموزشی نبوده اند. 3. در مرحله اجرا نیز شبکه عصبی برای عملکردی که به آن منظور طراحی گردیده است، استفاده می شود.
مراحل کار با شبکه عصبی
اجرا
آموزش
تعمیم
الگو های داده های ورودی
پاسخ برای ورودی های مجهول

50. نرم افزارهای شبکه های عصبی
نرم افزارهایی برای شبیه سازی ،مطالعه و تحقیق سیستمهای عصبی زیستی و گسترش شبکه های عصبی مصنوعی وAdaptive system ها .
شبیه سازها: نرم افزارهایی برای شبیه سازی رفتار شبکه های عصبی زیستی و مصنوعی که به صورت مستقل عمل می کنند و قادرند فرآیند آموزش شبکه ی عصبی را به شکل تصویری نمایش دهند.
شبیه سازهای تحقیقاتی :برای مطالعه ی الگوریتم ها و ساختارهای شبکه ی عصبی که به فهم بهتر رفتارها و خصوصیات شبکه ی عصبی کمک می کنند.(مطالعه ی ویژگی های شیمیایی و زیستی بافتهای عصبی و پالس های الکترومغناطیسی بین نورونها).
رایجترین شبیه سازهای ANN ها :
SNNS(stuttgart neural network simulator),PDP++(parallel distribution processing),JavaNNS
رایجترین شبیه سازهای شبکه های زیستی:
XNBC,BNN ToolBox

51. نرم افزارهای شبکه های عصبی
شبیه سازهای آنالیز داده :علی رغم دسته ی اول ،کاربردهای عملی شبکه های عصبی را مطالعه می کنند.استفا ده از آنها نسبتا ساده است در عوض تواناییهاشان محدود است . بر روی Data miningوپیش بینی ها کار می کنند.
بعضی از آنها عبارتند از:
Microsoft Excel,Matlab
Development Environment ها:برای گسترش و آرایش شبکه های عصبی به کار می روند.
رایج ترین نرم افزارهای این دسته عبارتند از:
MathWorks NN ToolBox,GBlearn2

52. مقایسه ی مدل سازی کلاسیک و مدل سازی شبکه ی عصبی
مدل سازی کلاسیک:
این مدل از نخستین قدم خطای بزرگی مرتکب می شود که فقط در سیستمهای ساده (خطی یا نزدیک به خطی )قابل صرفنظر است و آن محاسبه ی شاخصهای تمایل به مرکز و پراکندگی است که به این ترتیب راهمیت فردی تک تک داده ها از بین می رود و در نتیجه سیستم قادر به کشف پیچیدگی ها نخواهد بود.
مدل سازی شبکه ی عصبی :
در این مدل هر یک از کانالهای ورودی دارای یک ضریب عددی هستند که وزن سیناپسی نامیده می شود.شدت تحریک الکتریکی در این ضریب ضرب می شود و به جسم سلولی می رسد.
اگر مجموع تحریکات وارد به جسم سلولی به حد آستانه ی خاصی رسیده باشد،نورون شلیک می کند و در مسیرهای خروجی جریان الکتریکی ثابتی را ایجاد می کند.تحریکات لایه ی ورودی به یک یا چند لایه ی واسط می رود .ادامه ی جریان تحریکات در این لایه ها طوری هدایت میشود که پیچیدگیهای تاثیرات جریان ورودی را شبیه سازی می کند .سپس تحریکات به لایه ی خروجی می روند که هدف نهایی ماست.

53. مدل سازی شبکه ی عصبی(ادامه...)
اگر هدف پیشگویی کمی باشد ،مجموع تحریکات آخرین عصب خروجی ،آن عدد خواهد بود. اگر هدف طبقه بندی باشد ،فعالیت یا عدم فعالیت (on یا off بودن)نورونهای لایه ی آخر نمایانگر این امر خواهد بود .مثلا شلیک نورون خروجی(فعال بودن آن)نشانگر حضور بیماری و خاموش بودن آن نشانه ی سلامتی است. سیستم شبکه ی عصبی در فرآیند یادگیری طوری وزنهای سیناپسی را تغییر می دهد که بتواند با هر سری تحریکات ورودی (یعنی داده های هر نمونه)جریان خروجی مناسب(پاسخ R)را تولید کند. چگونگی ریاضی این تغییر وزنها ظریفترین بخش مکانیسم عملکرد شبکه است.

54. تجزیه و تحلیل داده ها توسط ANN ها
شبکه ی عصبی مدتی ”فکر“ می کند،داده های موجود را ”تجزیه و تحلیل“ می کند،روابط پیچیده ی بین پارامترها را ”کشف“ کرده و جوابی با دقت قابل قبول ارائه می دهد.در اینجا هیچ خبری از تستهای پیچیده ی آماری نیست.

55. ایده ی اصلی عملکرد شبکه های عصبی مصنوعی
هر گره دارای دو وضعيت فعال و غيرفعال است(صفر يا يك) و هر يال نيز دارای يك وزن می‌باشد يال‌های با وزن مثبت بين دو گره تا گره فعال ديگری را تحريك می‌كنند و يال‌های با وزن منفی بين دو گره، گره فعال ديگری را غير فعال می‌سازند.
   نحوه عملكرد شبكه بدين صورت است كه ابتدا يك گره به تصادف انتخاب می‌شود. اگر يك يا بيشتر از همسايه‌های آن گره فعال بودند جمع وزن‌دار يال‌های منتهی به آن گره‌ها حساب می‌شود. اگر اين جمع مثبت بود گره فعال می‌شود و در غير اين صورت گره مذكور غيرفعال باقی خواهد ماند. سپس مجددا يك گره ديگر به تصادف انتخاب شده و همين عمليات آنقدر تكرار می‌شود تا شبكه به يك حالت پايدار برسد.
تز اصلی هاپفيلد : از هر حالت ابتدايی و با هر وزنی از يال‌ها كه شروع كنيم، شبكه در نهايت به حالت پايدار خواهد رسيد.

56. جمع بندی:
شبکه های عصبی ابزاری نیرومند و انعطاف پذیر برای داده کاوی می باشند. شبکه های عصبی، سودمندی خود را در بسیاری از صنایع و کاربرد ها به اثبات رسانده اند و در حوزه های پیچیده ای نتیجه بخش بوده اند، حوزه هایی نظیر تحلیل سری های زمانی و تشخیص تقلب که سایر تکنیک ها نمی توانند به سادگی به حل مسائل موجود در آنها بپردازند. بزرگترین شبکه عصبی که تا به حال مورد استفاده قرار گرفته است، احتمالاً سیستمی می باشد که AT&T برای خواندن اعداد روی چک ابداع کرده است. این شبکه عصبی، صدها هزار واحد ساختاری دارد که در هفت لایه سازمان یافته اند.