analisis cluster metode k-means (rizka f_1311100126)

7/21/2019 Analisis Cluster Metode K-Means (Rizka F_1311100126)

1/19

ANALISIS MULTIVARIAT

ANALISIS CLUSTER DENGAN METODEK-MEANS(TEORI DAN CONTOH STUDY KASUS)

Oleh :

Rizka Fauzia 1311 100 126

Dosen Penga!":

Santi Wulan Purnami S.Si., M.Si.

PROGRAM STUDI SAR#ANA

#URUSAN STATISTIKA

$AKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

INSTITUT TEKNOLOGI SEPULUH NOPEM%ER

SURA%AYA

&'

1


2/19

* CLUSTERING

Pen+ah"l"an

Clustering adalah suatu metode engelomokan !erdasarkan ukurankedekatan"kemirian#.Clustering !eda dengan grou, kalau grou !erarti kelomok $ang

sama,kondisin$a kalau tidak $a asti !ukan kelomokn$a.%etai kalau &luster tidak harus

sama akan tetai engelomokann$a !erdasarkan ada kedekatan dari suatu karakteristik

samle $ang ada, salah satun$a dengan menggunakan rumus 'arak e&luidean.(likasin$a

&luster ini sangat !an$ak, karena hamer dalam mengidenti)ikasi ermasalahan atau

engam!ilan keutusan selalu tidak sama ersis akan tetai &enderung memiliki

kemirian sa'a.

Man,aa-

*denti)ikasi o!$ek "Re&ognition# +

alam !idang mage Pro&essing , Comuter -ision atau ro!ot ision

e&ission Suort S$stem dan data mining

Segmentasi asar, emetaan /ila$ah, Mana'emen marketing dll.

P./ns/! +asa. :

Similarit$ Measures "ukuran kedekatan#

istan&es dan Similarit$ Coe)i&ients untuk !e!eraa seasang dari item

&luidean istan&e+

22

22

2

11 #"...#"#"#," pp yxyxyxyxd +++=

(tau +

21

2

1#,"

= =

i

p

i

i yxyxd

2


3/19

&* TIN#AUAN PUSTAKA

&* Anal/s/s Kelo!o0 (Cl"s-e. Anal/s/s)

(nalisis kelomok "Cluster analiysis# meruakan se!uah metode analisis untuk

mengelomokan o!'eko!'ek engamatan men'adi !e!eraa kelomok sehingga akan

dieroleh kelomok dimana o!'eko!'ek dalam satu kelomok memun$ai !an$ak

ersamaan sedangkan dengan anggota kelomok $ang lain memun$ai !an$ak er!edaan

"4ohnson dan Wi&hern, 2005#. Prosedur engelomokan ada dasarn$a ada dua, $aitu

engelomokan dengan rosedur hierarki dan tak !erhierarki. Pada enelitian ini metode

$ang diakai adalah rosedur hierarki karena 'umlah kelomok $ang akan di!entuk

!elum ditentukan.

&*& Anal/s/s Cluster H/e.a.0/

Pada metode ini terdaat n o!'ek dan k kelomok, tetai kelomok $ang akan

ter!entuk tidak ditentukan terle!ih dahulu. Pem!entukan kelomok dilakukan dengan

emotongan dendogram $ang dihasilkan dari analisis. alam em!entukan kelomok

ditentukan 'arak antara dua o!'ek $ang nantin$a diga!ungkan men'adi satu.Single

Linkage Method, Complete Linkage Method, Average Linkage Method, dan Ward`s

Methodmeruakan meruakan metode hirarki, !agian dari metode agglomerative$ang

memiliki ukuran kemirian $ang !er!eda saat engklasteran. Single Linkage Methodengelomokann$a didasarkan ada 'arak terdekat antar cluster, Complete Linkage

Methodengelomokann$a didasarkan ada 'arak ter'auh antar cluster,Average Linkage

Method engelomokann$a didasarkan ada 'arak ratarata antar cluster, sedangkan

Ward`s Methodengklasteran didasarkan ada error sum of square"SS# $ang minimum

"4ohnson dan Wi&hern, 2005#. e!eraa ma&am 'arak $ang !iasa diakai di dalam

analisis clusteradalah se!agai !erikut.

3


4/19

Ta1el &* Ma&amMa&am 4arak $ang igunakan

7o. 4arak Formula

1. u&lidean

2. Manhattan

3. Pearson

&*2 Anal/s/s ClusterNonh/.a.0/

Metode clusternonhirarki dia/ali dengan roses enentuan 'umlah clusterterle!ih

dahulu. Se&ara umum metode ini meminimumkan )ungsi o!'ekti) atau kriteria otimal

sehingga daat mengatasi masalah otimasi untuk memenuhi kriteria otimal.

erdasarkan karakteristik datan$a metode nonhirarki di!agi men'adi !e!eraa model,

$aitu partitioning clustering, overlapping clustering dan model hybrid. artitioning

clustering meruakan metode rekontrukti) $ang !erusaha meminimumkan )ungsi

o!'ekti). Contoh dari partitioning clustering antara lain algoritma !"Means clustering

dan (nalisis Residual. #verlappingclustering !iasan$a digunakan ketika se'umlah datamengalami tumang tindih "overlap# sehingga setia data termasuk ke dalam !e!eraa

cluster. Contoh dari oerlaing clustering antara lain $u%%y C"Means, $u%%y

Substractiveclustering dan &aussian Mixture Model. Sedangkan model hybrid$aitu suatu

metode clustering dimana metode terse!ut mengga!ungkan karakteristik dari

artitioning, oerlaing, dan hirarki. "4ohnson dan Wi&hern, 2005#

8


5/19

2* METODEK-MEANS

Metode !"Means ertama dierkenalkan oleh 4ames Ma&9ueen ada tahun

1:65 dalam proceeding of the 'thberkeley symposium on Mathematical Statistic and

robability. asar engelomokkan dalam metode ini adalah menematkan o!'ek

!erdasarkan ratarata cluster terdekat. ;leh karena itu, metode ini !ertu'uan untuk

meminimumkan error aki!at artisi n o!'ek ke dalam k cluster. rror artisi dise!ut

se!agai )ungsi o!'ekti).

Misalkan < = >


6/19

start

Banyaknya

cluster K

Tentukan pusat

Hitung jarak obyek ke

pusat

Kelompokkan obyek

berdasar jarak minimum

Ada obyek

yang harus

dipindah?

ya

tidak

end

Gambar 1. Flowchart algoritma K-Means

3. Dkuran 4arak

alam hal ini, ukuran 'arak digunakan untuk menentukan o!serasi ke dalam

cluster !erdasarkan &entroid terdekat. Dkuran 'arak $ang digunakan dalam metode !"

Meansadalah 'arak u&lidean.

&*2*& Algo./-aK-Means

(daun algoritma!"Meansdalam em!entukan clusterse!agai !erikut.

1. Matriks data * = >@i'? !erukuran n@ dengan i = 1,2, ...,n, ' = 1,2,..., dan

asumsikan 'umlah clustera/al

2. %entukan usat cluster

3. Menghitung 'arak setia o!'ek ke setia &entroid dengan menggunakan 'arak

u&lidean atau daat ditulis se!agai !erikut.

2#"#," iiii cxcxd = "2.6#

8. Setia o!'ek disusun ke &entroid terdekat dan kumulan o!'ek terse!ut akan

mem!entuk cluster.

6


7/19

A. Menentukan &entroid !aru dari cluster$ang !aru ter!entuk, dimana &entroid !aru

itu dieroleh dari ratarata setia o!'ek $ang terlatak ada cluster$ang sama.

6. Mengulang langkah 3, 'ika &entroid a/al dan !aru tidak sama.

"Bair dkk, 2010#

Eam!ar 1 !erikut menun'ukkan diagram alir dari algoritma Means.

5


8/19

*CONTOH PENGHITUNGAN DENGAN METODE K3MEANS

%a!el 8.1 a)tar o!$ek $ang akan diolah dalam clustering

;!$ek atri!ut1 "


9/19

8. *terasi1+ menetukancentroid + erdasarkan anggota masingmasing gru, selan'utn$a

ditentukan centroid !aru. Eru 1 han$a !erisi 1 o!$ek, sehingga centroidn$a teta

. Eru 2 memun$ai 3 anggota, sehingga centroidn$a ditentukan !erdasarkan

ratarata koordinat ketiga anggota terse!ut+ .

A. *terasi1,menghitung 'arako!$ek kecentroid+ selan'utn$a, 'arak antara centroid!aru

dengan seluruh o!$ek dalam gru dihitung kem!ali sehingga dieroleh matriks 'arak

se!agai !erikut+

6. *terasi1+ clustering o!$ek, langkah ke3 diulang kem!ali, menentukan keanggotaan

gru !erdasarkan 'arakn$a. erdasarkan matriks 'arak $ang !aru, maka o!at harus

diindah ke gru 2.

5. *terasi2, menentukan centroid, langkah ke8 diulang kem!ali untuk menentukan

&entroid !aru !erdasarkan keanggotaan gru $ang !aru. Eru 1 dan gru 2 masing

masing memun$ai 2 anggota, sehingga &entroidn$a men'adi

dan

G. *terasi2,menghitung 'arak o!$ek ke centroid + ulangi langkah ke2, sehingga

dieroleh matriks 'arak se!agai !erikut+

:


10/19

:. *terasi2+ clustering o!$ek, mengelomokkan tiatia o!$ek !erdasarkan 'arak

minimumn$a, dieroleh+

Basil engelomokkan ada iterasi terakhir di!andingkan dengan hasil

se!elumn$a, dieroleh . Basil ini menun'ukkan !ah/a tidak ada lagi o!$ek $ang

!erindah gru, dan algoritma telah sta!il. Basil akhir clustering ditun'ukkan dalam

%a!el 2.

%a!el 8.2 Basil clustering

;!$ek atri!ut1 "


11/19

en$imanganen$imangan "noisy data dan outlier#. e!eraa kelemahan algoritma

means adalah+ "1# sangat !ergantung ada emilihan nilai a/al &entroid, "2# tidak 'elas

!eraa !an$ak &luster k $ang ter!aik, "3# han$a !eker'a ada atri!ut numerik.

Similarity+anDissimilarity

Memerhatikan inut dalam algoritma Means, daat dikatakan !ah/a

algoritma ini han$a mengolah data kuantitati). (lgoritma means han$a daat mengolah

atri!ut numerik.

Se!uah !asis data, tidak mungkin han$a !erisi satu ma&am t$e data sa'a, akan

tetai !eragam t$e. Se!uah !asis data daat !erisi datadata dengan t$e se!agai

!erikut+symmetric binary+ asymmetric binary+ nominal+ ordinal+ interval danratio.

er!agai ma&am atri!ut dalam !asis data $ang !er!eda t$e harus diolah terle!ih

dahulu men'adi data numerik, sehingga daat di!erlakukan algoritma means dalam

em!entukan &lustern$a. Pengukuran similaritydan dissimilaritydaat digunakan untuk

engolahan data terse!ut

(tri!ut $ang !er!eda tie sama artin$a dengan adan$a ketidaksamaan

"dissimilarity- antar atri!ut terse!ut. etidaksamaan "dissimilarity- antara dua o!$ek

daat diukur dengan menghitung 'arak antar o!$ek !erdasarkan !e!eraa si)atn$a.

Bu!ungan dissimilarity antara 2 !uah data o!$ek a="a1,a2,HH,a# dan !="!1,!2,

H.,!# daat din$atakan dengan engukuran 'arak antara 2 o!$ek terse!ut. e!eraa

si)at 'arak "dissimilarity- adalah se!agai !erikut d"a, !# 0 , 'arak kedua o!$ek selalu

ositi) atau nol,

d"a, a# = 0, 'arak terhada diri sendiri adalah nol,

d"a, !# = d"!, a# , 'arak kedua o!$ek adalah simetri,

d"a, !# d"a, I d"&, !#, 'arak memenuhi ketidaksamaan segitiga.

Misalkan dissimilarity antara o!$ek / dan o!$ek 4 din$atakan dengan +/4 dan

similarity din$atakan dengan s/4. Bu!ungan antara relationship dissimilarit$ dengan

similaritydin$atakan dengan s/4.=+/4, dengansimilarityter!atas ada 0 dan 1 "JAK#. 4ika

similarity !ernilai satu "!enar!enar sama#, maka dissimilarity nol, dan 'ika similarity

!ernilai nol "sangat !er!eda#, dissimilarity!ernilai satu. Setelah erhitungan 'arak atau

11


12/19

dissimilaritydari setia aria!el, maka seluruh hasil dikumulkan men'adi se!uah indeks

similarity "atau dissimilarity# antara dua o!$ek "JAK#. Selan'utn$a hasil terse!ut daat

diolah men'adi o!$eko!$ek $ang akan dikelomokkan dalam &luster&luster oleh

algoritma means.

12


13/19

ANALISIS CLUSTERNON3HIERARKIK-MEANS CLUSTERING

STUDI KASUS $AKTOR PERCERAIAN DI KA%UPATEN5KOTA

DI #A6A TIMUR DENGAN %ANTUAN SPSS

-aria!el enelitian $ang digunakan dalam raktikum ini dengan menggunakan

data engelomokan ka!uaten kota di 'a/a timur !erdasarkan )aktor)aktor en$e!a!

er&eraian tahun 2010 adalah se!agai !erikut.

Va./a1el Penel/-/an "n-"0 Me-o+e Anal/s/s Cluster

Va./a1el Pen4elasan


14/19

arena 'umlah data a!uatenota di 4a/a %imur !erdasarkan )aktor er&eraian

!an$ak maka, !erdasarkan teori akan le!ih e)isien 'ika menggunakan analisis clusternon

hierarki dengan metode!"Means. Basil analisis $ang dieroleh adalah se!agai !erikut.

* Pengelo!o0an Ka1"!a-en5Ko-a +engan Mengg"na0an & cluster

engam menggunakan analisis cluster nonherarki daat ditemtukan 'umalh

cluster $ang akan digunakan. (lternati) ertama $akni dengan menggunakan 2 cluster

didaatkan hasil engelomokan se!agai !erikut.

Ta1el *24arak Pusat dengan 2Cluster

Va./a1elCluster

&

Moral 31,G8 1,3:Meninggalkan

e/a'i!an1,G0 6G,58

a/in i!a/ah Dmur 0,A0 0,38

Pengania$aan 0,G0 0,2A

ihukum 8,5: 0,21

Ca&at iologis 0,A0 0,21

Sering erselisih A:,5G 2G,GA

erdasarkan %a!el 8.3, daat diketahui 'arak usat $ang dihasilkan se!elum

dilakukan iterasi. Dntuk cluster ertama, ada aria!el "moral# didaatkan 'arak

usatse!esar 31,G8. Dntuk aria!el meninggalkan ke/a'i!an# didatakan 'arak usat

se!esar 1,G0. Pada aria!el "ka/in di!a/ah umur# didaatkan 'arak usatse!esar 0,A0.

Pada aria!el "engania$aan didaatkan 'arak usatse!esar 0,G0. Pada aria!el

"dihukum# didaatkan 'arak usatse!esar 8,5:. Pada aria!el "&a&at !iologis#

didaatkan 'arak usatse!esar 0,A0. Pada aria!el "sering !erselisish# didaatkan 'arak

usatse!esar A:,5G. Dntuk cluster kedua, ada aria!el "moral# didaatkan 'arak

usatse!esar 1,3:. Dntuk aria!el meninggalkan ke/a'i!an# didatakan 'arak usat

18


15/19

se!esar 6G,58. Pada aria!el "ka/in di!a/ah umur# didaatkan 'arak usatse!esar

0,38. Pada aria!el "engania$aan# didaatkan 'arak usatse!esar 0,2A. Pada aria!el

"dihukum# didaatkan 'arak usatse!esar 0,21. Pada aria!el "&a&at !iologis#

didaatkan 'arak usatse!esar 0,21. Pada aria!el "sering !erselisish# didaatkan 'arak

usatse!esar 2G,GA.

Dntuk mendeteksi !eraa kali roses iterasi $ang dilakukan dalam roses

clustering dari 35 kasus $ang diteliti ada 5 aria!el di atas, daat dilihat 'umlah iterasi

$ang dihasilkan adalah se!agai !erikut.

Ta1el *4umlah *terasi untuk 2 Cluster

I-e.as/ Pe."1ahan #a.a0 P"sa-

Cluster

&

1 30,1AG 23,::A

2 1,G:G 0,5A3

3 1,623 0,628

8 1,36A 0,6A5

A 1,253 0,665

6 0,000 0,000

erdasarkan %a!el 8.8 di atas daat men'elaskan !ah/a roses clustering $ang

dilakukan ada data )aktor er&eraian di Proinsi 4a/a %imur ada %ahun 2010 melalui 6

tahaan iterasi untuk mendaatkan cluster $ang teat. *terasi ertama menghasilkan

clusterusat 1 se!esar 30,1AG dan clusterusat 2 adalah se!esar 223,::A. *terasi kedua

menghasilkan clusterusat 1 se!esar 1,G:G dan clusterusat 2 adalah se!esar 0,5A3.

*terasi ketiga menghasilkan cluster usat 1 se!esar 1,623 dan cluster usat 2 adalah

se!esar 0,5A3. *terasi keemat menghasilkan clusterusat 1 se!esar 1,36A dan cluster

usat 2 adalah se!esar 0,6A5. *terasi kelima menghasilkan clusterusat 1 se!esar 1,253

dan clusterusat 2 adalah se!esar 0,665. Sedangkan, ada iterasi keenam menghasilkan

clusterusat 1 se!esar 0,000 dan clusterusat 2 adalah se!esar 0,000.

1A


16/19

Basil akhir dari roses clustering dengan menggunakan 2 clustersetelah dilakukan

iterasi adalah se!agai !erikut.

Ta1el *7$inal Centersdengan 2 cluster

Va./a1elCluster

&

Moral 10,26 :,2G

Meninggalkan

e/a'i!an2G,12 A0,31

a/in i!a/ah Dmur 0,8: 0,62

Pengania$aan 1,06 1,2:

ihukum 0,:5 0,8A

Ca&at iologis 0,GA 0,GA

Sering erselisih AG,2A 35,20

erdasarkan %a!el 8.A, daat diketahui )inal 'arak usat clustering $ang

dihasilkan setelah dilakukan iterasi. Dntuk cluster ertama, ada aria!el "moral#

didaatkan 'arak usatse!esar 10,26. Dntuk aria!el meninggalkan ke/a'i!an#

didatakan 'arak usat se!esar 2G,12. Pada aria!el "ka/in di!a/ah umur# didaatkan

'arak usatse!esar 0,8:. Pada aria!el "engania$aan didaatkan 'arak usatse!esar

1,06. Pada aria!el "dihukum# didaatkan 'arak usatse!esar 0,:5. Pada aria!el

"&a&at !iologis# didaatkan 'arak usatse!esar 0,GA. Pada aria!el "sering !erselisish#

didaatkan 'arak usatse!esar AG,2A. Dntuk cluster kedua, ada aria!el "moral#

didaatkan 'arak usatse!esar :,2G. Dntuk aria!el meninggalkan ke/a'i!an#

didatakan 'arak usat se!esar A0,31. Pada aria!el "ka/in di!a/ah umur# didaatkan

'arak usatse!esar 0,62. Pada aria!el "engania$aan# didaatkan 'arak usatse!esar

1,2:. Pada aria!el "dihukum# didaatkan 'arak usatse!esar 0,8A. Pada aria!el

"&a&at !iologis# didaatkan 'arak usatse!esar 0,GA. Pada aria!el "sering !erselisish#

16


17/19

didaatkan 'arak usatse!esar 35,20. 4arak antara 'arak usat )inal terdekat !erdasarkan

"Lamiran 3.# adalah se!esar 30,611.

erikut ini meruakan hasil ngelomokkan a!uatenota di 4a/a %imur

!erdasarkan )aktor en$e!a! er&eraian ada tahun 2010.

15


18/19

Ta1el *8Basil Pengelomokkan 2 cluster

Cluster Anggo-a To-al

Cluster

1

angil, angkalan, raksaan, Magetan, Malang "a!#, Malang

"ota#, Pamekasan, Pasuruan, Pro!olinggo, Samang,Situ!ondo, Sura!a$a

12

(nggota

Cluster2

an$u/angi, a/ean, litar, o'onegoro, ondo/oso, Eresik,4em!er, 4om!ang, angean, ediri "a!#, ediri "ota#,

Lamongan, Luma'ang, Madiun "a!#, Madiun "ota#,

Mo'okerto, 7gan'uk, 7ga/i, Pa&itan, Ponorogo, Sidoar'o,

Sumene, %renggalek, %u!an, %ulungagung

2A(nggota

erdasarkan %ae!l 8.6,daat diketahui !ah/a anggota cluster 1 adalah angil,

angkalan, raksaan, Magetan, Malang "a!#, Malang "ota#, Pamekasan, Pasuruan,

Pro!olinggo, Samang, Situ!ondo, Sura!a$a. Sedangkan anggota cluster 2 adalah

an$u/angi, a/ean, litar, o'onegoro, ondo/oso, Eresik, 4em!er, 4om!ang,angean, ediri "a!#, ediri "ota#, Lamongan, Luma'ang, Madiun "a!#, Madiun

"ota#, Mo'okerto, 7gan'uk, 7ga/i, Pa&itan, Ponorogo, Sidoar'o, Sumene, %renggalek,

%u!an, %ulungagung.

(nalisis !erikutn$a meruakan analisis of variance"(7;-(# ada cluster1 dan

2 $ang !ertu'uan untuk mengetahui aakan aria!el $ang digunakan !erkontri!usi

terhada em!entukan cluster. 4ika didaatkan p"valueuntuk masingmasing aria!el

kurang dari =0,0A maka daat dikatakan aria!el terse!ut signi)ikan atau !erkontri!usi

terhada em!entukan cluster. Basil analisis keragaman ada 2 &luster adalah se!agai

!erikut.

1G


19/19

Ta1el *9(nalisis eragaman "(7;-(# dengan 2 Cluster

Va./a1el

Cluster E..o.

$ P-valueMean

Square +1

Mean

Square +1

Moral 5,G31 1 36,258 3A 0,216 0,68A

Meninggalkan

e/a'i!an3::2,8:5 1 GA,213 3A 86,GA3 0,000

a/in i!a/ah Dmur 0,13: 1 0,38: 3A 0,800 0,A31

Pengania$aan 0,883 1 0,:5: 3A 0,8A2 0,A06

ihukum 2,12G 1 0,A6: 3A 30,53G 0,061

Ca&at iologis 0,000 1 0,A31 3A 0,000 0,::3

Sering erselisih 3A:8,A10 1 8A,356 3A 5:,215 0,000

erdasarkan %a!el 8.5, daat diketahuiuntuk aria!el "moral#, "ka/in di!a/ah

umur#, "engania$aan#, "dihukum#, dan "&a&at !iologis# didaatkan alue

masingmasing se!esar 0,68AN 0,A31N 0,A06N 0,061N 0,::3 $ang le!ih !esar

di!andingkan =0,0A. Sehingga daat disimulkan aria!el , , , dan

tidak signi)ikan atau tidak !erkontri!usi terhada em!entukan cluster. Sedangkan

untuk aria!el "meninggalkan ke/a'i!an# dan "sering !erselisih# menghasilkan

alue masingmasing se!esar 0,000 $ang le!ih ke&il di!andingkan =0,0A.

Sehingga daat disimulkan aria!el dan signi)ikan atau !erkontri!usi

terhada em!entukan cluster.

1:

analisis cluster metode k-means (rizka f_1311100126)

Documents