دانلود پایان نامه

د در رابطه (1-4) تا (3-4) برآورده شود.

مرحله :2 برای هر خوشه (i 1,2,…,r) ، مرکز فازی هر خوشـه ( (ci بـا اسـتفاده از رابطـه (6-4)

محاسبه میگردد.

مرحله :3 برای هر خوشه i تابع فاصله dik با استفاده از رابطه (7-4) محاسبه میگردد.

مرحله :4 تابع هزینه در رابطه (4-4) محاسـبه مـی شـود و اگـر چنانچـه مقـدار آن از یـک مقـدار

مشخص کمتر و یا اختلاف آن با مقدار قبلی از یک حد آستانه ای کمتر گردید، در این صورت خوشه یابی پایان یافته است در غیر این صورت مرحله بعدی انجام میگیرد.

مرحله :5 مقادیر جدید ماتریس U با استفاده از رابطه (5-4) محاسبه میگردد و سـپس مراحـل 2

تا 5 تکرار میشوند.

با استفاده از الگوریتم خوشهیابی فوق، بردار ویژگی الگوهای ورودی به r گروه تقـسیم مـیشـوند.

مرکز هر خوشه به عنوان مقدار اولیه برای مرکز نرون در لایه RBF در نظر گرفته میشود.

(2-2-4 مقداردهی اولیه به عرض نرونها در لایه RBF

مقدار هم پوشانی بین خوشهها در تابع RBF، توسط عرض آن مـشخص مـیگـردد. بـرای هـر

خوشه k، فاصله dc(k, j) بین مرکز این خوشه و مراکز سایر خوشهها با اسـتفاده از رابطـه زیـر محاسـبه میگردد:

(8-4)
j j1,2,3,…, r
j ≠ k
dc ( k , j ) || c k − c j ||
سپس حداقل مقادیر فوق (dmin (k,l)) از رابطه زیر محاسبه میشود:
(9-4)

j ))
d min ( k , l ) min( dc ( k ,

1−Squared quadratic norm

53

rmax
با استفاده از رابطه (9-4) میتوان معیار همپوشانی زیر را بین خوشهها به عنوان مقدار اولیـه بـرای

عرض نرونها در لایه RBF در نظر گرفت. برای هر خوشه k، با داشتن مقدار dmin (k,l) برای این خوشـه، انتخاب مقدار اولیه σk برای این خوشه (نرون لایه (RBF به طریق زیر امکانپذیر است:

σk γ dmin (k , l) (10-4)

که در آن γ پارامتری است که میزان همپوشانی بین خوشهها را مشخص مینماید.

(3-4 مشخص نمودن تعداد نرونهای لایه RBF

معیاری که یک خوشهبندی بهینه را برای مجموعه از الگوهـا بیـان مـیدارد، عمومـاً براسـاس سـه

ضرورت زیر استوار میباشد:

-1 خوشههای نتیجه شده به صورت کاملاً روشن، از یکدیگر جدا باشد. -2 تعداد خوشههای ایجاد شده حداقل ممکن را داشته باشد.

-3 تعداد الگوهای موجود در هر خوشه بیشترین تعداد ممکن را که با یکدیگر نزدیک هستند را دارا باشد.

در بخش قبل تعداد خوشههای موجود در روش FCM به عنوان فرض در نظـر گرفتـه شـد. امـا در جاییکه نتوان تعداد این خوشهها را براساس دانش قبلی که از الگوهـا موجـود مـیباشـد مـشخص نمـود، استفاده از معیار اعتباری خوشهها1 ضرورت پیدا میکند. تعداد زیادی از اندیسهای اعتباری خوشههـا، در مقالات ارائه گردیده است. Bezdek و Pal چندین انـدیس را مـورد تحلیـل و بررسـی قـرار دادهانـد.[31]

جستجو برای یافتن تعداد خوشه بهینه، در حقیقت تغییر تعداد خوشهها بین یـک تعـداد ثابـت حـداقل و حداکثر و محاسبه اندیس مورد نظر می باشد که این تعداد خوشه بهینه بین ایـن مقـادیر ثابـت حـداقل و حداکثر وابسته به اندیس مورد استفاده می باشد. از طرفی یک اندیس اعتبـاری عمـومی کـه شـامل همـه کاربردهای ممکن با همه ترکیبات پارامترهای آنها را شامل باشد، موجود نیست. در این پـروژه روشـی بـه کار رفته است که براساس آن چند تکنیک موجود برای اندیسهای اعتباری در نظر گرفته میشود و آنگاه با آمیختن خروجیهای آنها از طریق قانون انتخاب اکثریت، خروجی نهایی حاصل میگـردد. جـدول 1-4
شش اندیس اعتباری که در این پروژه مورد استفاده قرار گرفتهاند را نـشان مـیدهـد. در ایـن جـدول
Fi

ماتریس کوواریانس فازی2 برای هر خوشه i
میباشد که از رابطه زیر محاسبه میگردد:
NT

∑∑ik ( xk − ci )( xk − ci )T
Fi

(11-4)
i ≤ r
1 ≤

k k1

NT

∑∑ik

k k1

تعداد نرونهای لایه RBF براساس اندیسهای اعتباری خوشهها مشخص میگردد با این فـرض کـه

NT و s، به ترتیب تعداد الگوهای آموزشی و تعداد کلاسهای خروجی از قبل مشخص باشند. فـرض کنیـد

nr تعداد نرونهای لایه RBF و حداکثر مقدار برای nr باشـد کـه براسـاس آمیخـتن انـدیسهـای

1−Validity Criterion 2−Fuzzy Covariance Matrix

54

اعتباری خوشهها با قانون انتخاب اکثریت، معـین شـده باشـد. در ایـن صـورت بـا اسـتفاده از روش چنـد مرحلهای زیر میتوان nr را به دست آورد :

-1 در ابتدا nr با مقدارs مقداردهی اولیه میشود.

-2 چند تکرار از الگوریتم FCM انجام میگیرد و سپس برای هـر خوشـه (i 1,2,…, nr )i ، مـاتریس Fi

براساس رابطه 11-4 محاسبه میگردد.

-3 با استفاده از قانون انتخاب اکثریت و براساس خروجـیهـای جـدول 1-4، rmax محاسـبه مـیگـردد و چنانچه nr rmax باشد در این صورت کنترل به مرحله چهارم سـپرده مـی شـود و در غیـر ایـن صـورت (nr ≤ rmax ) به مقدار nr یک واحد اضافه میشود و سپس از مرحله دوم روش تعقیب میگردد.

-4 تعداد نرونهای لایه RBF برابر با (r rmax ) rmax در نظر گرفته میشود.

(4-4 تنظیم پارامترهای شبکه RBF

مرحله دوم در الگوریتم آموزشی پیشنهادی FHLA، تنظیم پارامترهای شبکه عصبی میباشد. ایـن مرحله از الگوریتم یادگیری شامل تخمین وزنهـای ارتبـاطی شـبکه، مرکـز و عـرض نرونهـای لایـه RBF

براساس الگوهای آموزشی میباشد. در اینجا و در ایـن پـروژه از روش هیبریـد بـین تکنیـکهـای LLS و

گرادیان استفاده شده است.[
32] این پروسه بهینهسازی هیبرید1 مقادیر ci ،
σi و wij را در دو مرحله به
روز میرساند.

در اولین گام، وزنهای ارتباطی شبکه در خروجی نرونهای لایه RBF،
(wij ) با این فرض که مقـادیر

ci ، σi مشخص میباشند تنظیم میگردند و در گام دوم، مقادیر ci ، σi تنظیم خواهند شـد. راهحلهـای وابسته به هر گام در روش هیبرید در ادامه مورد بررسی قرار میگیرند.

1−Hybrid

55

جدول((1-4 اندیسهای اعتباری خوشهای

Cluster no.

Maximum

Maximum

Maximum

Minimum

Maximum

Minimum

Formula

Si

r

VD ∑

1 / 2
[det( F )]

ii1

i

N

Si ∑∑ik

k k1

) )1}
− c
k
)F −1 (x
i
− c

k
/(x
k
{x
k
x

i

i

Si

r
1

VAD

1 / 2

r

ii1 [det( F )]

i
1 ∑
D AD

S i

r

tr ( Fi )
r i 1

VB tr(SB )

r

SB ∑Si (ci − c).(ci − c)T

ii1

N

Si ∑∑ik

k k1

r∑ci

1

c c

ci

ii1

Vw tr (S w )

N

r

S w ∑ ( F i ∑ ik )

k k1

i i1

r
VHV ∑[det( Fi )]1 / 2

i i1

Validity index

Partition density

Average partition density (using determinant of Fi ) Average partition density (using the trace of Fi )

Trace of between-cluster scatter matrix

Trace of within-cluster scatter matrix

Hyper volume

(1-4-4 تنظیم وزنهای خروجی شبکه RBF

برای هر بردار ویژگی xk ، خروجی شبکه عصبی RBF را به صورت ماتریسی میتوان به شـکل زیـر

بیان نمود:

(12-4)
W × R Y

که در آن R u ×N T بیان کننـده مـاتریس پارامترهـای لایـه RBF، W s×u مـاتریس وزنهـای

خروجی شبکه،
Y s×N T ماتریس مقادیر خروجی و NT تعداد کل الگوهای آموزشـی مـی باشـند. از
آنجایی که عموماً
NT بزرگتر از s می باشد، این یک مسئله نامشخص است و عمومـاً یـک راه حـل دقیـق
برای پیـدا کـردن مـاتریس W موجـود نمـی باشـد. بنـابراین بـا اسـتفاده از تکنیـک LLS یـک تخمـین

W ‘ s ×u که نزدیک به W باشد، در نظر گرفته میشود. برای پیدا کردن مـاتریس W ′، تـابع مربـع خطا به صورت زیر در نظر گرفته میشود:

56

(13-4)
SE S|| T − W × R ||2
که در آن
T (t1 , t2 ,…, ts )T s×N T ماتریس خروجی هدف میباشد که شامل مقادیر صفر و یک

میباشد و در آن هر ستون فقط دارای یک المان غیرصفر میباشد و نشان دهنـده ایـن اسـت کـه الگـوی آموزشی مورد نظر به کدام کلاس خروجی متعلق میباشد. بـا اسـتفاده از تکنیـک LLS، مـاتریس W ′ را میتوان به گونهای پیدا نمود که:

(14-4)
W ‘ × R T
و مقدار بهینه W ′ را میتوان از رابطه زیر محاسبه نمود:

(15-4)
W ‘ T ( R T R ) −1 R T
که در آن (RT R)−1 RT ماتریس شبه معکوس مـاتریس1R مـیباشـد و
RT ترانهـاده2 مـاتریس R اسـت.

اکنون وزنهای ارتباطی شبکه با یک تقریب مناسب و با استفاده از ماتریس W ′ حاصل خواهند گردید.

(2
-4-4 تنظیم مرکز و عرض نرونهای لایه RBF

اگر تعداد کل الگوهای آموزشی NT در نظر گرفته شود، مقدار خطای خروجـی بـرای الگـوی m ام براساس مجموع مربعات خطا(SSE) 3 را میتوان به صورت زیر بیان نمود:

s

(16-4)
∑ (t km − y km ) 2
1
E m

2 k 1

که در آن ykm
و tkm نشان دهنده خروجـی واقعـی و خروجـی هـدف بـرای نـرون k ام در لایـه خروجـی

براساس الگوی آموزشی m ام است. مرکز و عرض نرونهای لایه RBF براساس گرادیان منفی خطـای Em

برحسب پارامترهای RBF تنظیم می گردند. برای محاسبه گرادیان منفی4 در ابتدا باید نـرخ تغییـر خطـا5

برای الگوی آموزشی
m ام برحسب خروجی k ام محاسبه گردد:

m

(17-4)

((yykmmm−−tkmm)
∂E

m

∂y k

برای نرون j
ام در لایه RBF نرخ تغییر خطا توسط قانون زنجیرهای6 و به صورت زیر قابل محاسبه

میباشد:

1−Pseudo Inverse 2−Transport 3−Sum of Squared Error

4−Negative gradient 5− Error Rule 6−Chain Rule

57

∂y km

m
m
s
∂E m ∂y km
s
∂E m

(18-4)

(
− t k

∑∑((yyk

m
∂R

m
∂R
m

m
∂R

j

k k1
j

∂y k
k k1
j

و همچنین نرخ تغییر خطا برای هر نرون در لایه RBF برحسب تغییرات در مرکـز و عـرض نـرون j ام را میتوان با استفاده از قانون زنجیرهای و با در نظر گرفتن معادله (18-4)، به صورت زیر بیان نمود:

s
m
∂E

(19-4)

2∑∑ykmm.wikmm.RRjmm.(.PPmm(i))−−ccjmm(i)) /(σσjmm)2

m

k k1
(i)
∂c j

s

m
∂E

(20-4)

2∑∑ykmm.wikmm.RRjmm.(PPmm(i))−−ccjmm(i)) /(σσjmm)3

m

∂σ

k k1

j

که در آن i 1,2,…, n ، i

دسته بندی : پایان نامه ها

دیدگاهتان را بنویسید