تعیین وزن شبکه عصبی با الگوریتم PSO در متلب

در این بخش سورس کد تعیین وزن شبکه عصبی با الگوریتم PSO در متلب قرار داده شده است. شبکه‌های عصبی Artificial neural network از تعداد زیادی عنصر پردازشی فوق‌العاده به‌هم‌پیوسته به نام نورون تشکیل‌شده که برای حل یک مسئله با یکدیگر به‌صورت هماهنگ عمل می‌کند. شبکه عصبی یک الگوریتم نیست بلکه یک چارچوب برای بسیاری از الگوریتم‌های مختلف از جمله یادگیری ماشین برای همکاری و پردازش اطلاعات پیچیده است.

برای افزایش دقت یادگیری در شبکه‌های عصبی می‌توان این شبکه را با الگوریتم‌های فرا ابتکاری یا تکاملی ترکیب کرد یعنی برای وزن دهی لایه‌های مختلف موجود که ارتباط آن‌ها با یال‌هایی است که می‌توان مقادیر وزن‌ها یا یال‌ها را با الگوریتم‌های فرا ابتکاری تعیین کرد. یکی از این الگوریتم‌ها الگوریتم PSO می‌باشد. که در این بخش سورس کد آماده آن در متلب برای یک دیتاست ساده (دیتاست سرطان سینه) نوشته شده است.

شبکه عصبی مصنوعی

شبکه‌های عصبی ANN از تعداد زیادی عنصر پردازشی فوق‌العاده به‌هم‌پیوسته به نام نورون تشکیل‌شده که برای حل یک مسئله با یکدیگر به‌صورت هماهنگ عمل می‌کند. دسته‌بندی شبکه‌های عصبی شبکه‌ای از لایه‌هاست، معمولاً لایه‌ای که اطلاعات ورودی به آن‌ها داده می‌شود تحت عنوان لایه‌ی ورودی و لایه‌ای که داده‌های خروجی از آن دریافت می‌شود تحت عنوان لایه‌ی خروجی نامیده می‌شود و به لایه‌های دیگر بین این دولایه (در صورت وجود) لایه‌های پنهان گفته می‌شود.

جهت حرکت‌ها سیگنال‌ها همواره از سمت لایه‌ی ورودی به‌سوی لایه‌ی خروجی است برای دسته‌بندی یک نمونه تستی، وزن کلمه‌ها برای واحدهای ورودی تعیین می‌شود و فعال کردن این واحدها از طریق لایه‌های مختلف روبه‌جلو در شبکه انجام می‌شود و مقدار واحد خروجی به‌عنوان یک نتیجه در تصمیم‌گیری دسته‌ها تعیین می‌شود.

شبکه‌های عصبی مصنوعی، سیستم‌های محاسباتی هستند که توسط شبکه‌های عصبی زیستی الهام گرفته شده‌اند که مغز حیوانات را تشکیل می‌دهند. منظور از یادگیری در شبکه‌های عصبی، تنظیم وزن‌ها و بایاس‌های شبکه می‌باشد. بر این اساس الگوریتم‌های متفاوتی بیان شده، که معمول‌ترین آنها یادگیری هب، دلتا، یادگیری رقابتی و … می‌باشد.

الگوریتم PSO

الگوریتم PSO یا Particle swarm optimization بهینه سازی ازدحام ذرات یک روش بهینه سازی تصادفی مبتنی بر جمعیت است که الهام گرفته از رفتار اجتماعی ازدحام پرندگان و پرورش ماهی است. الگوریتم PSO شباهت زیادی با تکنیک‌های محاسباتی تکاملی مانند الگوریتم ژنتیک GA دارد.

این سیستم با جمع آوری راه حل‌های تصادفی و جستجو برای بهینه سازی با به روزرسانی نسل‌ها آغاز می‌شود. با این حال، بر خلاف GA الگوریتم PSO هیچ اپراتور تکاملی مانند CrossOver و جهش ندارد. در PSO، راه حل‌های بالقوه، ذرات نامیده می‌شوند که از طریق فضای مشکل با دنبال کردن ذرات بهینه مطلوب پرواز می‌کنند.

اطلاعات دقیق در بخش‌های زیر داده می‌شود. در مقایسه با الگوریتم ژنتیک، الگوریتم PSO آسان است و چند پارامتر برای تنظیم آن وجود دارد. این الگوریتم در بسیاری از زمینه‌ها به طور موفقیت آمیزی مورد استفاده قرار گرفته است: بهینه سازی عملکرد، آموزش شبکه‌های عصبی مصنوعی، کنترل سیستم فازی و سایر زمینه‌ها می‌تواند استفاده شود.

تعیین وزن شبکه عصبی با الگوریتم PSO

همانطور که قبلاً هم اشاره شد برای تعیین وزن یال‌ها و بایاس‌ها در شبکه‌های عصبی می‌توان از الگوریتم‌های فرا ابتکاری استفاده کرد. از این رو در این سورس کد تعیین وزن بایاس‌ها و یال‌ها با استفاده از الگوریتم PSO انجام پذیرفته است. برای تعیین میزان عملکرد برنامه ذکر شده از دیتاست سرطان سینه استفاده شده است که در ادامه این دیتاست تشریح شده است.

دیتاست مورد استفاده در این سورس کد

به عنوان یک نمونه دیتاست مورداستفاده مجموعه داده بیماران سرطان سینه موجود در مخزن داده‌ی یادگیری ماشین دانشگاه ارواین، ایالت کالیفرنیا آمریکا (University of California at Irvine) است مثال زده می‌شود.

در این دیتاست ویژگی‌ها شامل ریسک فاکتورهای ضخامت انبوه، یکنواختی اندازه سلول، یکنواختی شکل سلول، چسبندگی لبه‌ها، حجم سلول بافت اپیتلیال، هسته‌های عریان، کروماتین بلاند، هسته عادی و تقسیم هسته سلول به دو قسمت می‌باشد که در ایالت ویسکانسین ایالات‌متحده جمع‌آوری‌شده است. جدول زیر نشان‌دهنده این مجموعه از داده است.

قسمت هایی از سورس کد در متلب

%% Start of Program
clc
clear
close all
warning off;

N=40;
max_it=100;
Vmax=0.5;
Vmin=-0.5;


%% Input Output Data
load IOdata

Data = IOdata;
X = Data(:,1:end-1);
Y = Data(:,end);
XN = X;
YN = Y;


%% Normalization

%
MinX = min(X); MaxX = max(max(abs(X)));
MinY = min(Y); MaxY = max(max(Y));
% %
XN=XN/MaxX;
YN=floor(YN/MaxY);

%% Test and Train Data
NumOfInputs = size(X,2);
NumOfOutputs = size(Y,2);
NumOfData = size(X,1);
NumOfHiddens=2*NumOfInputs+1;


TrPercent = 70;
DataNum = size(X,1);
TrNum = round(TrPercent * DataNum/100);
R = randperm(DataNum);
TrInx = R(1:TrNum);
TsInx = R(TrNum+1:end);

Xtr = XN(TrInx,:);
Ytr = YN(TrInx,:);

Xts = XN(TsInx,:);
Yts = YN(TsInx,:);


%% Network Training

[NetworkP ,BestCostP, BestChartP] = TrainUsingACO_Fcn(Xtr,Ytr,N,max_it,NumOfInputs,NumOfHiddens ,NumOfOutputs, Vmax, Vmin);

%% sim and mse


YtrNetP = sim(NetworkP,Xtr')';
YtsNetP = sim(NetworkP,Xts')';


MSEtrP = mse(Ytr-YtrNetP)
MSEtsP = mse(Yts-YtsNetP)

[c,cm,ind,per] = confusion(Yts',YtsNetP');
figure
plotconfusion(Yts',YtsNetP');

figure
plotroc(Yts',YtsNetP');

figure
grid on;
plot(BestChartP,'r','LineWidth',2);
title('Train MSE');

تصاویر خروجی حاصل از اجرا وزن شبکه عصبی در متلب

درباره وزن شبکه عصبی با الگوریتم PSO

سورس کد تعیین وزن شبکه عصبی با الگوریتم PSO در متلب عنوان اثری است که در این پست به آن پرداخته شده است. اثر در نرم افزار متلب نوشته شده و برای تعیین مقادیر وزنی یال‌ها و بایاس‌های شبکه عصبی با الگوریتم PSO می‌باشد. این سورس کد بصورت کامل توسط گروه پشتیبانی پی استور تست و اجرا شده است و دارای نشان تضمین کیفیت پی استور می‌باشد. برای دانلود اثر مذکور آن را خریداری کنید.