ریاضیات کاربردی و علوم کامپیوتر
از سلول های عصبی انسانی تا سلول های عصبی مصنوعی
ما این شبکه های عصبی را با تلاش اولیه در جهت یافتن خصوصیات اساسی سلول های عصبی و اتصالات آنها ، هدایت می کنیم.
سپس بطور معمول یک کامپیوتر را برای شبیه سازی این خصوصیات برنامه ریزی می کنیم .اگر چه بدلیل اینکه دانش ما از سلول های عصبی ناقص است و قدرت محاسبات ما محدود است ، مدل های ما لزوما آرمان های خام و ناقصی از شبکه های واقعی سلول های عصبی است .
یک روش مهندسی
یک سلول عصبی ساده
یک سلول عصبی مصنوعی دستگاهی است با تعداد زیادی ورودی و یک خروجی .
سلول عصبی دو گونه عمل دارد ; حالت یادگیری پرورشی و حالت کاربردی .
در حالت یادگیری سلول می آموزد که برای حالت خاصی فعال و بر انگسخته شود ( یا برای همان حالت بر انگیخته نشود).
و در حالت کاربردی و استفاده وقتی الگوی ورودی آموزش یافته ای در ورودی شناسایی شود خروجی مرتبط با آن خروجی کنونی سلول می شود .
اگر الگوی ورودی به لیست الگو های ورودی ای کا از پیش به سلول آموزش داده شده نباشد ، قوانین فعال سازی سلول خروجی سلول را تعیین می کند که آیا فعال کننده باشد یا نه.
قوانین فعال سازی
قانون فعال سازی مفهوم مهمی در شبکه های عصبی است و مسئول انعطاف پذیری بالای دستگاه می باشد .
قانون فعال سازی تعیین میکند که چگونه یک واحد محاسبه کند که آیا یک سلول عصبی باید برای هر الگوی ورودی واکنش فعال سازی را انجام دهد.
این قانون برای کلیه الگو ها شرح داده می شود نه فقط برای آنهایی که گره عصبی برایش پرورش یافته است.
یک قانون فعال سازی ساده بوسیله تکنیک فاصله Hamming قابل اجرا است قواننین به صورت زیر اجرا میشود:
یک مجموعه از الگو های آموزشی را برای یک گره عصبی انجام دهید، تعدادی از این الگوها سبب فعالسازی (مجموعه الگوهای آموزشی با حاصل 1) و باقی که از فعالیت آن جلوگیری می کنند (مجموعه الگوهای آموزشی با حاصل0 ) سپس الگو های خارج از مجموعه ای سبب فعال سازی گره عصبی می شوند که عناصر مشترک بیشتری با نزدیکترین الگو در مجموعه آموزشی 1 دارند تا با نزدیکترین الگو در مجموعه آموزشی 0 .
اگر در این بین گرهای وجود داشته باشد الگوی مورد نظر در وضعیت غیر تعریف شده باقی می مانند.
(جداول در فایل اصلی موجود است)
بعنوان مثال ، یک سلول عصبی با 3 ورودی در نظر بگیرید که آموزش یافته تا خروجی 1 را زمانی بدهد که ورودی (x1 ،x2 وx3) 111 یا 101 است و خروجی 0 را زمانی داشته باشد که ورودی 000و001 است.
پس قبل از اعمال قانون فعال سازی ، جدول درستی به صورت زیر است:
010 را بعنوان مثالی که در آن قوانین فعال سازی اعمال می شود در نظر بگیرید.
این ورودی با ورودی 000 در یک عنصر و با ورودی001 در دو عنصر متفاوت است ، با 101 در سه عنصر وبا 111 در دو عنصر متفاوت است .
بنابر این نزدیکترین الگو به آن 000 است که به الگوهای آموزشی با حاصل0 تعلق دارد .
در نتیجه قوانین فعال سازی لازم می داند زمانی که ورودی 001 است تا سلول عصبی فعالیتی نکند .
از طرف دیگر ، 011 در فاصله ای برابر بین در دسته الگو های آموزشی است که دارای خروجی های متفاوتی هستند بنابراین خروجی این الگو بدون تعریف می ماند (1/0).
با اعمال قوانین فعال سازی تمام ستون های جدول درستی زیر به دست آمده است:
تفاوت بین دو جدول عمومیت دادن سلول عصبی نامیده می شود بنابر این قوانین فعالسازی به سلول عصبی حس تشخیص شباهت ها را می دهد و آنها را قادر می کند تا هوشمندانه به الگو هایی که در طول تمرین آنها را ندیده اند جواب بدهد.
الگوشناسی- یک مثال
یکی از کاربردهای شبکه های عصبی تشخیص الگو است.الگوشناسی با استفاده از شبکه های عصبی که ازپیش (مانند شکل 1) تغذیه شده اند و مطابق با موضوع پرورش یافته اند قابل اجرا است.وقتی از شبکه استفاده می کنیم خودش الگو های ورودی را شناسایی می کند و سعی می کند تا خروجی متناسب با آن الگو را بدهد .
توان شبکه های عصبی زمانی خودش را نشان می دهد که الگویی به عنوان ورودی به آن داده شود که از قبل خروجی مرتبط با آن را نداشته ، در یان وضعیت خروجی متناسب است با یک الگوی ورودی که داری حداقل اختلاف با الگوی داده شده است.
بعنوان مثال:
(تصاویر در فایل اصلی موجود است)
شبکه عصبی در شکل 1 برای شناسایی الگوهای حروف T وH آموزش داده شده اند.همانگونه که شکل نشان می دهد الگوهای مرتبط بترتیب تماما سیاه و تماما سفید هستند .
اگر ما مربع های سیاه را با 0 و مربع های سفید را با با 1 نمایش دهیم بنابراین جدول درستی برای سه سلول عصبی بعد از عمومیت دادن (با قانون فعال سازی ) به صورت زیر است.
اگر ما مربع های سیاه را با 0 و مربع های سفید را با با 1 نمایش دهیم بنابراین جدول درستی برای سه سلول عصبی بعد از عمومیت دادن (با قانون فعال سازی ) به صورت زیر است.
خروجی سلول بالایی خروجی سلول میانی خروجی سلول پایینی می توان موضوعات تداعی شده زیر را از جداول بالا است استخراج کرد.
در این مورد ، این کاملا واضح است که خروجی می تواند تماما سیاه باشد زمانی که الگوی ورودی تقریبا شبیه الگوی T است.
این جا هم کاملا آشکار است که خروجی کاملا سفید خواهد بود زمانی که الگوی ورودی تقریبا شبیه الگوی H است.
دراینجا، ردیف بالایی با دو اشتباه از الگوی T وبا سه تا اشتباه از الگوی H دور است بنابراین خروجی بالایی سیاه .
ردیف میانی با یک اشتباه از هر دو الگوی TوH دور است.بنابراین خروجی بصورت اتفاقی انتخاب می شود.
ردیف پایینی با یک اشتباه از الگوی T و با دو اشتباه از الگوی H دور است.
بنابراین خروجی سیاه است.
کل خروجی شبکه هنوز به نفع شکل Tاست.
یک سلول عصبیی کمی پیچده تر سلول عصبی قبلی کاری که کامپیوتر های متعارف انجام ندهند را انجام نمی دهد .
سلول عصبی کمی پیچیده تر مدل McCulloch و Pitts (MCP)است.
فرق آن با مدل قبلی این است که ورودی ها وزن دار هستند، تاثیری که هر ورودی در گرفتن تصمیم دارد بستگی به وزن یک ورودی خاص دارد.وزن یک ورودی عددی است ، زمانی که این عدد در وردی ضرب می شود ورودی وزندار را می دهد.
این ورودی های وزندار سپس با هم جمع می شود و اگر مجموع آنها از ارزش آستانه ای از پیش تنظیم شده تجاوز کند سلول فعال می شود .
در موارد دیگر سلول فعال نمی شود.
(شکل 2) به بیان ریاضی ، سلول عصبی فعال می شود اگر و فقط اگر: X1W1 + X2W2 + X3W3 + ...
> T افزایش وزن های ورودی و بوسیله ی آستانه ارزش این سلول عصبی را یک سلول منعطف و قدرتمند می کند .
سلول ها MCP قابلیت سازگاری با وضعیتی خاص را بکمک تغییر وزن ها و یا آستانه ارزش، دارد.
الگوریتم های گوناگونی وجود دارد که سبب سازگاری سلول عصبی می شود ، پر استفاده ترین آنها قانون دلتا( Delta )است و روش پخش اشتباه گذشته(back error propagation)است .
قالبی که در شبکه های از پیش تغذیه شده وبعد از آن در شبکه های بازخوردی استقاده شده است.
معماری شبکه های عصبی شبکه های عصبی از قبل تغذیه شده شبکه های از قبل تغدیه شده (شکل 1) به سیگنال ها اجازه می دهند تنها از مسیر یکطرفه عبور کنند، یعنی از ورودی تا خروجی.
بنابراین باز خوردی( حلقه ها) وجود ندارد به این معنی که خروجی هر لایه تاثیری بر همان لایه ندارد .
این گونه سازماندهی ازپایین به بالا واز بالا به پایین هم نام برده می شوند.
شبکه های عصبی بازخوردی شبکه های بازخوردی می توانند سیگنال هایی داشته باشند که در هر دو مسیر با استفاده از حلقه های درست شده ،حرکت کنند .
شبکه های بازخوردی خیلی قدرتمند هستند و می توانند به شدت پیچیده شوند.
شبکه های بازخوردی پویا هستند ، وضعیت آنها پیوسته در حال تغییر است تا آنها به یک نقطه تعادل برسند.آنها در این وضعیت تعادل باقی می مانند تا زمانی که ورودی تغییر کند و نیاز باشد تا تعادل تازهای پیدا شود.
معماری های بازخوردی ، بر هم کنشی(interactive) وبازگشت کننده (recurrent) هم نامیده می شوند، اگر چه این لفظ آخری بسشتر برای مشخص کردن اتصالات بازخوردی در سازماندهی های تک لایه به کار می رود .
شبکه های عصبی(neural networks) مطمئن هستم که تا به حال چیزهایی راجع به شبکه های عصبی شنیده ، یا خوانده اید چون این شبکه ها در حوزه ای میان ریاضیات ، علوم کامپیوتر و AI قرار دارند مطلب زیر را با بضاعت اندک خود از آدرس زیر ترجمه کردم .
خواندن با حوصله این مقاله را که در چند بخش ارائه می شود ، به شما توصیه می کنم بدون شک در پایان دید نسبتا خوبی نسبت به موضوع پیدا خواهید کرد.حتی اگر برگردان فارسی یک دانشجوی کم سواد را قبول ندارید خواندن متن اصلی و جستجو در موتور های جستجو راجع به آن را به تمامی علاقه مندان توصیه میکنم چکیده مطلب: این گزارش مقدمه ای بر شبکه های عصبی مصنوعی است.
گونه های مختلف شبکه های عصبی توضیح و شرح داده شده است و کاربرد های شبکه های عصبی، نظیر ANN ها در پزشکی بیان شده و همچنین سابقه ای تاریخی از آن بتفضیل آورده شده است.
همچنین رابطه بین چیزهای ساختگی و واقعی مورد بررسی قرار گرفته ودر مورد آن توضیح داده شده است و سر انجام به شرح مدل های ریاضی در رابطه با این موضوع می پردازیم.
مقدمه یک شبکه عصبی چیست؟
یک شبکه عصبی مصنوعی (Artificial Neural Network (ANN)) ایده ای است برای پردازش اطلاعات که از سیستم عصبی زیستی الهام گرفته شده و مانند مغز به پردازش اطلاعات می پردازد .
عنصر کلیدی این ایده ، ساختار جدید سیستم پردازش اطلاعات است.
این سیستم از شمار زیادی عناصر پردازشی فوق العاده بهم پیوسته تشکیل شده(neurons)که برای حل یک مسأله با هم هماهنگ عمل می کند.ANN ها ،نظیر انسانها ، با مثال یاد می گیرند .
یک ANN برای انجام وظیفهای مشخص ، مانند شناسایی الگو ها و دسته بندی اطلاعات ، در طول یک پروسه یاد گیری ، تنظیم می شود .
در سیستم های زیستی یاد گیری با تنظیماتی در اتصالات سیناپسی که بین اعصاب قرار دارد همراه است .
این روش ANN ها هم می باشد.
سابقه تاریخی به نظر می آید شبیه سازی های شبکه عصبی یکی از پیشرفت های اخیر باشد .
اگرچه این موضوع پیش از ظهور کامپیوتر ها بنیان گذاری شده و حداقل یک مانع بزرگ تاریخی و چندین دوره مختلف را پشت سر گذاشته است.
خیلی از پیشرفت های مهم با تقلید ها وشبه سازی های ساده و ارزان کامپیوتری بدست آمده است.
در پی یک دوره ابتدائی اشتیاق و فعالیت در این زمینه ، یک دوره ی بی میلی و بدنامی راهم پشت سر گذاشته است .
در طول این دوره سرمایه گذاری و پشتیبانی حرفه ای از این موضوع در پایین ترین حد خود بود ، پیشرفت های مهمی به نسبت تحقیقات محدود در این زمینه صورت گرفت .
که بدین وسیله پیشگامان قادر شدند تا به گسترش تکنولوژی متقاعد کننده ای بپردازند که خیلی برجسته تر از محدودیت هایی بود که توسط Minsky وPapert شناسانده شد.
Minsky وPapert ،کتابی را در سال 1969 منتشر کردند که در آن عقیده عمومی را جع به میزان محرومیت شبکه های عصبی را در میان محققان معین کرده بود و بدین صورت این عقیده بدون تجزبه و تحلیل های بیشتر پذیرفته شد.
هم اکنون ، زمینه تحقیق شبکه های عصبی از تجدید حیات علایق و متناطر با آن افزایش سرمایه گذاری لذت می برد .
اولین سلول عصبی مصنوعی در سال 1943 بوسیله یک neurophysiologist به نلمWarren McCulloch ویک منطق دان به نام Walter Pits ساخته شد .
اما محدودیتهای تکنولوژی در آن زمان اجازه کار بیشتر به آنها نداد.
چرا از شبکه های عصبی استفاده می کنیم شبکه های عصبی ، با قابلیت قابل توجه آنها در استنتاج معانی از داده های پیچیده یا مبهم ، میتواند برای استخراج الگوها و شناسایی روشهایی که آگاهی از آنها برای انسان و دیگر تکنیک های کامپیوتری بسیار پیچیده و دشوار است به کار گرفته شود.
یک شبکه عصبی تربیت یافته می تواند به عنوان یک متخصص در مقوله اطلاعاتی ای که برای تجزیه تحلیل به آن داده شده به حساب آید.از این متخصص می توان برای بر آورد وضعیت های دخواه جدید و جواب سؤال های " چه می شد اگر " استفاده کرد.
مزیتهای دیگر آن شامل موارد زیر می شود : یادگیری انطباق پذیر: قابلیت یاد گیری نحوه انجام وظایف بر پایه اطلاعات داده شده برای تمرین وتجربه های مقدماتی .
سازماندهی توسط خود: یک ANN می تواند سازماندهی یا ارائه اش را ، برای اطلا عاتی که در طول دوره یادگیری در یافت می کند، خودش ایجاد کند.
عملکرد بهنگام(Real time ) : محاسبات ANN می تواند بصورت موازی انجام شود، و سخت افزارهای مخصوصی طراحی و ساخته شده است که می تواند از این قابلیت استفاده کند.
تحمل اشتباه بدون ایجاد وقفه در هنگام کد گذاری اطلاعات : خرابی جزئی یک شبکه منجر به تنزل کارایی متناظر با آن می شود اگر چه تعدادی از قابلیت های شبکه ممکن است حتی با خسارت بزرگی هم باقی بماند.
شبکه های عصبی در مقابل کامپیوتر های معمولی شبکه های عصبی نسبت به کامپیوتر های معمولی مسیر متفاوتی را برای حل مسئله طی می کنند .
کامپیوتر های معمولی یک مسیر الگوریتمی را استفاده می کنند به این معنی که کامپیوتر یک مجموعه از دستور العمل ها را به قصد حل مسئله پی می گیرد.
بدون اینکه، قدم های مخصوصی که کامپیوتر نیاز به طی کردن دارد، شناخته شده باشند کامپیوتر قادر به حل مسئله نیست.
این حقیقت قابلیت حل مسئله ی کامپیوتر های معمولی را به مسائلی ،محدود می کند که ما قادر به درک آنها هستیم و می دانیم چگونه حل میشوند.
اما اگر کامپیوتر ها می توانستند کار هایی را انجام دهند که ما دقیقا نمیدانیم چگونه انجام دهیم ، خیلی پر فایده تر بودند.
شبکه های عصبی اطلاعات را به روشی مشابه با کاری که مغز انسان انجام می دهد پردازش می کنند.
آنها از تعداد زیادی از عناصر پردازشی(سلول عصبی) که فوق العاده بهم پیوسته اند تشکیل شده است که این عناصر به صورت مواز ی باهم برای حل یک مسئله مشخص کار می کنند .شبکه های عصبی با مثال کار می کنند و نمی توان آنها را برای انجام یک وظیفه خاص برنامه ریزی کرد مثال ها می بایست با دفت انتخاب شوند در غیر این صورت زمان سودمند، تلف می شود و یا حتی بدتر از این شبکه ممکن است نا درست کار کند.
امتیاز شبکه عصبی این است که خودش کشف می کند که چگونه مسئله را حل کند ، عملکرد آن غیر قابل پیش گویی است.
از طرف دیگر ، کامپیوتر های معمولی از یک مسیر مشخص برای حل یک مسئله استفاده می کنند .
راه حلی که مسئله از آن طریق حل می شود باید از قبل شناخته شود و به صورت دستورات کوتاه و غیر مبهمی شرح داده شود.
این دستورات سپس به زبا ن های برنامه نویسی سطح بالا برگردانده می شود و بعد از آن به کدهایی که کامپیوتر قادر به درک آنها است تبدیل می شود.
به طور کلی این ماشین ها قابل پیش گویی هستند و اگر چیزی به خطا انجام شود به یک اشتباه سخت افزاری یا نرم افزاری بر می گردد.
شبکه های عصبی و کامپیوتر های معمولی با هم در حال رقابت نیستند بلکه کامل کننده یکدیگرند .
وظایفی وجود دارد که بیشتر مناسب روش های الگوریتمی هستند نظیر عملیات محاسباتی و وظایفی نیز وجود دارد که بیشتر مناسب شبکه های عصبی هستند .
حتی فراتر از این ، مسائلی وجود دارد که نیازمند به سیستمی است که از تر کیب هر دو روش بدست می آید (بطور معمول کامپیوتر های معمولی برای نظارت بر شبکه های عصبی به کار گرفته می شوند ) به این قصد که بیشترین کاریی بدست آید.
شبکه های عصبی معجزه نمی کنند اما اگر خردمندانه به کار گرفته شوند نتایج شگفت آوری را خلق میکنند.
انسلن و سلول های عصبی مصنوعی- در جستجوی شباهت ها چگونه مغز انسان می آموزد ؟
مسائل زیادی راجع به این که مغز چگونه خود را برای پردازش اطلاعات آموزش می دهد، نا شناخته باقی مانده است بنابر این تئوری های فراوانی وجود دارد.
در مغز انسان یک سلول سیگنال ها را از دیگران از طریق یک گروه از ساختار های ریز به نام dendrites جمع آوری می کند سلول عصبی جهش سریع فعالیت الکتریکی را در طول یک پایه بلند و نازک که axon نامیده میشود ، می فرستد که به داخل هزاران شاخه گسترش می یابد و کشیده می شود .
در انتهای هر شاخه ، ساختاری که synapse نامیده می شود این فعالیت را ازaxon به اثرات الکتریکی تبدیل می کند که فعالیت یکaxon به صورت اثرات الکتریکی فعال کننده یا غیر فعال کننده تبدیل می شود که این کار باعث برانگیخته شدن یا آرام شدن سلول های عصبی مرتبط می شود.
وقتی یک سلول عصبی پیام های فعال کننده را در یافت می کند، که بطور قانع کننده و وسیعی با پیام های ورودی غیر فعال کننده اش مقایسه شده باشد ،در این زمان این سلول نیز یک جهش از فعالیت الکتریکی را به داخل axon خودش می فرستد.
یاد گیر ی با تغییر تاثیر synapses اتفاق می افتد در نتیجه تاثیر یک سلول بر دیگران تغییر میکند.
از سلول های عصبی انسانی تا سلول های عصبی مصنوعی ما این شبکه های عصبی را با تلاش اولیه در جهت یافتن خصوصیات اساسی سلول های عصبی و اتصالات آنها ، هدایت می کنیم.
سپس بطور معمول یک کامپیوتر را برای شبیه سازی این خصوصیات برنامه ریزی می کنیم .اگر چه بدلیل اینکه دانش ما از سلول های عصبی ناقص است و قدرت محاسبات ما محدود است ، مدل های ما لزوما آرمان های خام و ناقصی از شبکه های واقعی سلول های عصبی است .
X1:00001111X2:00110011X3:01010101OUT:000/10/10/110/11 X1:00001111X2:00110011X3:01010101OUT:0000/10/1111 X11:00001111X12:00110011X13:01010101OUT:00110011 X21:00001111X22:00110011X23:01010101OUT:10/110/10/100/10 X21:00001111X22:00110011X23:01010101OUT:10110010