Neural Networks And Information Theory

376 44 3MB

English Pages 204

Recommend Papers

Brain Arousal and Information Theory: Neural and Genetic Mechanisms 9780674042100

Pfaff presents a daring perspective on the long-standing puzzle of what arousal is. He argues that, beneath our mental f

138 1 4MB Read more

Process Neural Networks: Theory and Applications 9783540737612, 3540737618

For the first time, this book sets forth the concept and model for a process neural network. You’ll discover how a proce

448 124 2MB Read more

Bayesian Methods For Neural Networks - Theory and Application

503 72 2MB Read more

Statistical Field Theory for Neural Networks [1st ed.] 9783030464431, 9783030464448

This book presents a self-contained introduction to techniques from field theory applied to stochastic and collective dy

466 87 8MB Read more

Neural networks [2ed.] 0139083855

491 28 8MB Read more

Neural Networks and Numerical Analysis 9783110783186, 9783110783124

This book uses numerical analysis as the main tool to investigate methods in machine learning and neural networks. The e

218 98 19MB Read more

Speech Recognition using Neural Networks

449 45 847KB Read more

Neural Networks: History and Applications 1536172332, 9781536172331

"With respect to the ever-increasing developments in artificial intelligence and artificial neural network applicat

659 76 6MB Read more

Open information systems and networks

The album is an illustrative guide to the textbooks "Transmission of discrete information in railway transport"

459 82 361MB Read more

Blind Equalization in Neural Networks: Theory, Algorithms and Applications 9783110450293, 9783110449624

The book begins with an introduction of blind equalization theory and its application in neural networks, then discusses

146 32 4MB Read more

Neural Networks And Information Theory

Author / Uploaded
Colin Fyfe

Similar Topics
Computers
Networking

0 0 0
Like this paper and download? You can publish your own PDF file online for free in a few minutes! Sign Up

File loading please wait...

Citation preview

! ! ""#$ % &

###

! $

" %&' () * * & + , % - ./)' ./

( &

%* 0 ) 1

3 + +)

" *)

+)

.'&

4 5 .'&

! 6 +)

$ %* 7 " 1

.'& +) 5 1

.'& * 0 1

+) %*& *

* * '

* '

6 * '

! ( ' 5)' &

$ & ./)'

./

!

)' 8 " & + * )' 8 9 - * 1 & 8 " ( ' 5)' - * 1 & : 6 1 + : 6 9 (5 6 ! : ' *)

#

2

2

2

!

$

#

# $

# 2

! : - * ' *) ! : 0 ; 8 *) $ %* +6/ ( ' " : 6 9 6 5)' & +* ) & * ' * * Y L 4F G * * ) / +) Y5 L 4F(

G

FG

* * & ) / %* * * ' F * K? ?8 G * * /' + * ' B * + * ' ' & + * ) ) + +) * '& + * ' * ) %* Y L 4F8 G * 8 L 2 + L + %* + 8 + E ) * * ' ) * +) ' + *

$ " %

!

Input values 25 "before.dat" 20

15

10

5

0

-5

-10

-15 -15

-10

-5

0

5

10

15

20

25

Output values 8 "after.dat" 6

4

2

0

-2

-4

-6 -6

-4

-2

0

2

4

6

, H %* * *& %* ' *

#

! Hebb weights Anti-Hebb weights Inputs x

, !H %* * +) * ' & * ' & 8 J )* * ' & K *

* * * & ?8 x1

z1

x2 x3

z2

x4 x5

, $H %* +

5 (3 4

* * ) 8 ?8 * / * ' ' )' + * /)' * , ! 9 * * ) * * * ++ * * ¯ )' 8 * ) + * & ¯ 8 + * &' . * + * * * ' ' )' + * ' 8 * ' & ' * * * * & ?8 * ' + * ' ) & * ( '

)' + * ' & * + +) * ' %* * ' * ' ' )' %* * )' / * )/ )) +) +) * ) ' * * ' F* * * * ' '

)'GJ * ' )/ )& * * ' ' )'

"( + 4

%* + * , $ %* ' * + * J '' ** * * ' * )) ' * * + * ' * * & * + ' * ' + ' )' 8 F ' * * +) * G * * * ( ' 5)' + * ' %* * + *

:

L

F G

& F N G FG

Y

:

!#

4 : F N G

L

FG

FG

* FG * + * ' ) %* /' * &E ) '' + * * ) %* + * * ) + * ' ?8 - * +) +) ' / ' ;J & * K + * E * * * B : ' *) FG FG Y

L L

: 4 : :

4 F N G: 4F FG : G:

L

F

G

F!G

* * '' * ) FG + )' & %* +) + * F!G / & * + * ' *)E .B FG %* )' * 5*' +) +

##

8

* ) * + E * * ' * Q%* RH * * / + * * * * * * *) %* + * * ) * ) + &)H * * + *

+) * E;E * )) E&E ) * +) * )) E&E * E; %* & )' - *+ * '' ) * * * & K * '& +) * * F * ) G

< :7 :;

L 0 ;< L 7 L 70 L 4 L ( F, J $ J ! G N ( F, J $ ! G N ( F, J ! $ G N F, $ ! G

F!G

& * ')E * )' + * ?

* * ) ' , %*& / * + ' ( ' ( * * ? * * ' ) + ' ) * + * * &

&( / 5 * * , ! - * ' FO?G ' ' FO?G / ' * $ ' ' & * $ ! :

- + * )' + * +) & + + E * + )/ ) > L ( F, J $ J ! G )/ ) * +) 'E ' / -* * ! $ 2 F & * *

GE * * * % ! . & * * * * ' / * * * * ? +) * * * & ) * + ' * * ) / + * * / ' * E * I * * ? ' E * * * E +E * * ) 2 '

&*

"( % # -

5 5 & * * * * * ) & 5 + ' E +) * * )' +) ' + ' E 0 0 %* 55E )' * ) + * * * )/ )) * ) "

L 1 0 L

F!#G

¾

L 1¾ 0¾ L

¾ ¾

F! 2G

%* * * + 1½ 1¾ * * )/ ) * ½ ¾ -* ( ' 5)' & , & * * * ' * + E 55 * * * ' + + * ½ ¾ E )& * ' + * ' + * 0¾ & * 0½ ) & + * ) ' * 0¾ +) * 0½ %*E * * + /) ' * * & * *& *

* * ) * * * * /) - ) * * : ' /) ' * *O* ) * * /) & & / + ) ' 9?

* ) ' & * ' 0½ ? B

¾ ? ' L %* *

) + 0½ * * ) * *& * ¾ " 0½ * ) #½ 0¾ * ) #¾ %* * )* [½½ [¾¾ [½¾

L F0½ #½ GF0½ #½ G L F0¾ #¾ GF0¾ #¾ G L F0½ #½ GF0¾ #¾ G

F! G F!

G F! G

L [½½ [½¾ [¾¾

F! G

* % * ' + - * '+) D 1 )' + 7 L F4½ 4¾ 4 G-F?½ ?¾ ? G F! !G * 4 ? * + ' & 1 * ) / + %* * F* * * G &

1½ L [½½ 4½

F! $G

1¾ L [¾¾ ?½

F! G

* B ) + * B E 4 ? * *'E ' )') + 55 * * ' & * ' ) * )/ ) * &*

% % ,

%* ' )' 0½ 0¾ + + +) * ' *

' ' ** * ' *E 1½ 1¾ F , ! B F!#G F! 2GG ' ½ ¾ - * )/ ) * F½ ¾ G * FG * /' * * * + 0½ 0¾ - )& * ') * + )/ ) * + ½ F1½ 1¾ G L F½ ¾ G * * + + * *E 1½ * * + ')E 1¾ %* )/ ) ') * * * ) * )/ ) %&' & 55E * * F½¾ L G ) & * ¾ * )/ ) ¾ F1¾ 1½ G A * )* + "

! &

outputs y 1

maximise correlation

w 1 x

1

y

w

weights x

inputs

2

2

2

, ! H %* 55 & *E E )/ ) ) ' E * & * ' ) + E @ @

L F G N 0 F G

L F G N 0 F G

- )& B & @

L F G N 0 F G N 0 F G

) * + * ' * *

' ) '& & )' & ) * 1 * * 1 ? - * * ' ) * + * + * + * + * ' * * *E 1 1 E * " ) ' E 0 0 & * * " ) ' '' * + 4 * * * + * )' * + ' ) J * )*& )/ ) * + * * * +& * * F1 1 G F G F1 0 G L L L 0 F! G 1 1 1 * & ' & @ 1 @ 0

L 0 0 0 L 0 F 0 G

F G

) & * * @ + E 1 0 %* )* + * * * * " ) ' - * Y Y0 Y Y0

L L L L

F 0 G

F G

F 0 G

F G

F! #G

* * + ) + * E 1 * + )' & * * *

!

8 E )') + ( ' 5)' & F(5G * ' *) )& & & + )* + ( ?

' 5)'E )') + 55 )& & & 8 E * * * / + (5 * + * '

)' + F5G * * / *+ + - *+ / )') + 55 & )/? ) * ' * * ' + + * ' - ' + )/ ) + F G * * + + * 'E 0 , * ' ) E L F; G L 1 * * + FG '' )? * %* B ' ) + + * ') *

L F G N 0 F G

@ F1 1 G L F G N 0 F G

@ F1 1 G

! &*

/

- ' ) * + )'/ & - * * * * ) * K + * : ) ) - * / * )* & ' * * BH - )/ ) ) * '

- )/ ) * * )& ' + * &*#

3;

/' ) )' H 0 ) E * + * ) +) * ;?) 0 E F2EGJ 0 ) E * + * ) +) F2EG * E 0 0 E )' +) F2EG * ) + * %* * * * * * / * ) + * A + 2222 * * & 2 !2222 E * * * F/2%E 22 E ?22!E ?222$G F/2%)E 222E 222! G %*

& * * * * ) + * + * * + * * * & * - )& )' * ' * * ' ) + F 2!E2E2E2G F 2!E2E2G %* K + * * + * ' & * * * +) * * )' F2E !G %* * F/2 E 222 E 222E 222 G F /2 E 222 E ?222G ? * ' ) F 22 E2E2E2G F 22 E2E2G %* K ) * E F G L F G L F1 00 1 G L 1 * 1 L

* * * ) / + * '

F!2G

! &

$

6/ )) 5

1 1

6/ )) 5

1 1

2$#$ 22 $2 22 2$$2 22 $ 22 #

22! 222

222!

22! $ 222#

222

% ! H %* * +) * )' * * ' +) * B &*&

/

/' ) J )' : ) ! ) /) %* /) ' H /) /) F5G * * * * ' /) FG %* /) * + 6 * F5GE D F5GE FGE & FGE FG - * ' *

F/) )G ?* ? /) F G * '? /) F G ' B & + * * * *& : & ? /) * * & '? /) &E ) * & * '? /) ' * ? F G %* * % ! + + 2222 !2222 - * ' ) ' * + )' * * ' / * * + & * )* %* 1 + * * +) * /) * * 1

+ * * +) * ' /) - * / ) * )* %* * * & * + * * +) *+ * * + * F 1 1 G * + * & * F 1 1 1 G &*(

/ -

* * + * + & +) ' )& * / + )) +) K & ) * * ' + * * * * / ) ' & ' - )& * ) + ) K ) ? 0 0 ? * * )& * ' + K ) K ' + * ) ) & * * ' )& K * ) ' * ' * /' ) * * + ) )H /)' * '* & , ! %* * * * K ) * / + *

* * ' + * & + )) * 'E * E * + * * ' * ' . * ' + ) ) ' * * ' * + ) * + + * * * ' * * ) %* + ) *

)' * B ' & +) * * * ) & * )& * * + ? * ' / + ' / * ? ''& * + ) - * * )/ )) * * *) ) + 0 0 * * + * * B ' &E * B + ' +?* + *?* + *E B ' + ' * ' ' + * F1 E 1 G F1 E 1 G %* + 1 1 * /' ) * + 1 1 J * ' + )' + ' E )' )' * ' ) * * * * ' )'H + E * 1 E 1 'E 1 E 1 '

right shift -1

y 1

1

1

y

-1

-1

y

3

-1

2

1

1

y 4

Maximise Correlations pairwise

, !H %* 9) ) %* 0 * + * + * * + F *G + * 0 - * 1 1 & * + * + 1 1 * * * +

1 1 1 1

?222 222 ?22 22

2/ 22 ! 22 $

/2)

222

/2 2 222

?222# 22 2 ?222 ?222

% !H %* * & * * * ' + * * * + * * ' * + * + A + 222 22222 E * * * * % ! %* ' + * 1 1 * * ) + 0 * * ) + 0 * )/ )) * * ' F* * +) * ''/ )& 2G %* ' * * + %* ' + ' * F)'G + 2! ) & * ' + * * * * ) + 0 * ) + 0 * )/ )) * * ' %* ' * F)'G + 2!2 ' + + * + + ) ' * ) & ' * & * *?* + ' *'' ) * * * 1 1 *+ + ' + ' + B '+) : 6@ , E * + + * ' *& K ' + * ' F** * + * * +G %* * ) * * * * ) +) ' * * +?+ +) * * * * * +? * * * ' * & + + * $ ' ' %* * * ) F * F?EE?EGG ) * +) $ ' ' E )' & /' '' + * + ) +) - * * & )' 5)' * 55 * 7& (* ': E ) * +) * E 0 * ' * 0 * / ' %* +) * 55 * 7& (* ' ) E ** 7& (* ' ' * + ) * K +

/ +) * ' + * '

! &

, &E * 55 ' * )& ) + +) ' * '' ? )') + 8 * 1 * * ) + +? ' & ' ?

* * * ' * +) * 1 B + & )& * 0 ') * +) * ) Y L F 0 G F G 0 Y0 L F G * * * ' 0 ) * (*' * + * ) ' * * * ? + + * ' ? * ) ' * / %* + +* &**

' ,

+) +) K & ) E * / )& ' * * ') + * +) ) * )& %*+ / * *) * & )'/ ' * * ) & )' - * * )' * * + * ) *

+ B ) H 0 E 0 0 * ) E * + * ) & '& +) F2EG - )' +) F2EG * ) + * + 0 E 0 0 )' )/ ) * E - ' )/ ) * ' + H @ @ @

L F G N 0 F G

L F G N 0 F G

L F G N 0 F G

- * + * + * + * ' * * *E 1 E 1 1 E * " ) ' E 0 E 0 0 %* * @ 1 @ 1 @ 1

L 0 0 0 L 0 F 0 G L 0 0 0 L 0 F 0 G L 0 0 0 L 0 F 0 G

%* * ' * " ) ' ) * ' F! #G ** * + )' & * * * * * 0: & & F 22 222 G A L2222E L 22! 22222 E * * * * % ! %* * & & * )* B * '

&*

L

F$G

%*

F$!G

+ )'& * )/ ) , * Y L

> L ¼

F$$G

2

+ * * * ' E * + F * ) + * * * G )' 8 H Y L 4

F$ G

* 4E * E * + * * & ' ) * ' ' )' + * ' ? * ) +? ) - '& ) * * )' * * ) B

' * ' H + & ' * F G L FF G G L 2

F$G

- ' * * ' ) & * )* + " ) ? ' H & )/ ) * + 0 & AL> N

0

* * Y L

A

F$#G

4 N

0

F$2G

-* * * * F+ * 0 G

* 0 B ? %* * * * B ) Y L 4

F$G

%* * 5)' 8 9H * * ) * * + * + * ' ' * ) ) %* *+ * '* * * H

= & 1-

* * & F* ) * G )' 8 * ( ' 5)' * * *& * E F G *& * * * ) ' ' ? * * * & + * +) + '

= &

%* * K + + * 5)' 8 *) ? * * *'' & ? K * + * * %* K K + * ' '

= &

-* * )' + F* )G ) E ' )'& ) * ) 2 + &) * E * & & + * ) )'& ' * *)

%* 5)' 8 *) * )

* ; ') * ' Æ * ') * *) * * + ' ') *

Input layer

measurement prediction

2!

Coding Layer

, $!H : ) * '' + ' '' ? !

4 $ - 4

%* *) * *' ) ) Q6 ' 5 6R * ) & + ' * * * ' )'&

+ & * + + + * ' * & + * ' '

+ & ) ) + * $ ' E * + * * ' + * $ ' ' '

(& - 2 ' * + * * + 8 * , $! - * & ' * * & * 'O & %* * ** + ' * & ) & * * * %* * ) & + )' * * * )' & * ' + * ' %* * ' ' * * ' ' * ' * %* ' * * ' &

* ' '+) * ' * * + *

' H + * &E * ) * ' ''/ ) * * * & ' * - * * ' & * & ) + * * * * * %* * * ' + * + * + ' " L

F G

F$ G

5& + * ) + * ' ; * * ' ; * * * * + E * ' + * ? * * & Q: + R %* ' + + 1 ' * , $$ ) ) &?9 + )* + * 9 + + B * * F ) & * * *'G L

F " N F GF " GG

F$G

* * ' * ' * * + ' + " )& '' * 2 * * + ; * ) *

2$

The prediction function

1

0.5

0 1 0

0.5 0.5 0

1

, $$H %* ' + + )

+ + )& * ) + * + ' ' * ' ) * + & * * * * +& * ' * ; ' * ?' * )H * ' ) * '& + * * ' *: ' * + * + , $ E * * FEEG )' ' * ' FEE2G %* ' F2$$$E2$$$E2$$$G * * ) ) * + 8 * FEE2G ) ) * F + ;G * ) * + ' )/ )& FEEG * * * ' K ' * ) ) * + K ' + * ' '

0.666

1

1 0.666

1

1 0.666

0

1

1

0

1

0.666

1

1 1

0

Inputs

0

Predictions

, $ H + * & FEEG * ' '

& * ' FEE2G * ' + * * ' + ) %* * ' ¿¾ + * ' + * E * * ' * * * ' FEEG

2

Predictions

Code Units

Inputs

Prediction Units

, $H *) *: ( & 6 ) H ' ' * FG . * + + * * ' . * ' )' ' * ' : ' . *

)* )' ' (&

" >

1& C) * ') + + ' ' & ' * F''/ )&G ) ) ; * ' * + + /)' +) * H * ) )) ' * + * ) + ' B * ' %* ) '' * * & + %*& E * E ?'& *

& + * * ' & A * * E *& * )

+ * * ) ) V + * ) * * ' ' * ' & + ) * !!

% # 4 &

*) * * ' F, $G+ / + ' * ' ' + ' & ) ) %* * * ' & F* & * , G )' ' * : ' & * ' + * * * )& * )' ) ' ' & ' ' '' * * ' +) * + * * ' & * * * ' ++ ) * * ' )' ' " * ' + *

%* G F$G L F

* F=G L , * + ' 2 & L ;

%* ' + * ' F$!G

& * ' + * * * * * & ' * ' F* ''G

5 . * + * ) ) * ) B '

+ ' ) ) F G E * * ' + * ' * ' ' + ) ) * + E * * * /' F L + G + * ' * ' +

2 Output

Gating weights

Expert network 1

Expert network 2

Expert network m

Gating Network

Input data

, $#H . * /' * ' . * /' ' & + ' + ' * /' * ) * * * : ' + * ' * * - * * /' * ) & ' * + * + * * + * ) 2 * * * E * /' 2 * / 5 * ' * * * * ?

)' )/ ) & * ) + * * ' & ) ) ) *) ' ' & * * * *

%* ? & * * * * * * )/ ) & * ' * * * ' ) ) * '

*) * * * & * B ? &H * * 2O + * ' ' * * ' ' * *

)'& Q: R ' * ' !'

4 / ) ./$

- )* * ) / + /'H * * * /' F* * &' & + '' G ' & + ' + * ' %* /' * * * * ** + * * * * /': ' & + ' * ' 5 * * , $# . * /' * ' + * * & ' F G )* %* * ' & ' ' & ' ' & * * * * * ' & + * ' # &

)' ) *

L

¾

F$$G

* * ' + /' E * '' + /' * ) ' * ' * * /' * * ) * * /' '& * 'E

2#

%* ') * * + * * ' * /' *) * & * * /' )' ) ) * * * * /' * * * & * * * /' ) ' & + * &"

-* & B + /' ) * * * /' * * %* ) + * +)

L F

¾G L

¾

F$ G

8 * * /' + * * * /' /' ' * * + * ''/ ) * * * * * ''/ ) %* ) ' * * /'

* * * )& ) + ' & '' ) * ) * * + ) * * * * ' -* /' * * * + * /'E ' & + * F* * + G + E ' & %* Æ & * * ) * * * * * + * + * * * 'E

L F G

F$G

+) * * * * + * + ) * * + & +) * * * -* * & * ' & E * K # ( 8 $

5 * )

L

/' F

¾ G

F$#G

* * & ) * ' & 0 ? )/ ) * ' & + * ' -* * + * + * ' * /': ' ½

¾

/' F ¾ G F G F$ 2G L ½

¾

/' F ¾ G

%* ) * * * ) * '+) * + * * + )

* * /' '+) )' * /'

(* 3 4 '+) /' ) * * +) ! ' ) & %*& )' * * 6 / + ./' * '' * * &' & %* + * * * H & * /' * )' ) ) * * & /)' %* E * E

2 Expert 0 Expert 2 A

Discrimination line from Expert 0

A A A A

A a a

A

a

a

a

a

Discrimination line from Expert 2

a

Confidence line

, $2H / + * * * ) / + /' * %* ) * : + * /'H /)' * + + * ' & ./' 2 * * * ' & /' 2 . * + * /' * ) + * *

+ + ' &

* & * ) * ? &

' * * )' * * * ') + 8 * * ) +) ' * * * B & ) ' & + * %* * * /' + ) ) + * * , & / + * , $2 * * /' * * ) * ') * * + * * + * ' ' * K * K %* * * ' & + * : ' * /' + ') * * * /' K !*

"( % # -

( 0 5 3 " 5* ,&+ * * * )' * * ' *) * * * ' )' + * H )'& * * %* + * * * * / * * *'' * * * ) / *

* &' F *G * * * 9 * * )' * 0 * * * * ( ' 5)' + * )' 0 - * * * * * * + * % $ * /)' + * ' &' & F * ' ' G )* + ' + * &' * * B + , & F,G (5 , & * B * + * * * Æ )' + * K ) %*& * )* /' * ) ) + ) , )' * + * & * (5 ) + - (5 )' +) +) * )'

E * , & * +) * * +) + * + * (5 ) +E ) )' * +) + *

2 2 2 2 2 2 2!! 2

2 2 2 2 2 2 2! 2

2 2 2 2 2 2 2 # 2

2 2 2 2 2 2 2#$ 2

2 2 2 2 2 2 2 $ 2

2 2 2 2 2 2 2## 2

2 2 2 2 2 2 2!# 2

2 2 2 2 2 2 2# 2

% $ H %* * ' %* * * '& * * * ' ' ' ' ' '

!

' 2222 !! 222 22 2

/2/) /) /2/%/

'

/2/)% /2/ ) 22 222

$! 222$#

% $H %* * + * * * * & * + : ) / 8 , * ' ) * * & & ' )' * %* , ) & * + * 'H 0 L B N F$ G

* 0 ' + * E * + + E " * ) / + + * + ' F BG + - * ' E E * + + * + & B + + & + * + ' + * + /' * B& Æ & %*+E &' & * & + ' * *: ' * &' + & ) )

) / * + & E ! ) / + ' *

L FG N F G ' ' L F N G N F N G

' G L F N ' L F N G N F!G L F!G

%* ) /E E *& + '*E * & ' * * ) E * * * ) / %*+ * * ' * ' + * *+ * + )? & * + * * & ) K '* (

0 +

+* ' & & * ' ? H * * * ) K + + * * *

' & + + * ' * (5 *) * * * L

Y

*

L /'F

G

+ L

N /'F

N G

F$

G

* * ) * ) ' * /?/ * 2 /L2 2 / ) ) + * )* * * ' + * * * - )& * * + & ? ) ' E * / * N * * & ' ' & ' &E + * ? ) ' E * * & ' * ' ) * * /' & +& ' * )' ? & * ) * & +) (

3 0

8 E * ' + * * ' ' * * ) ' * ? * * * ' + * / * ' ' * & / ' * * + * ) & + * ' ' & + * '' + * ? & * & )& ' ' * * * * )& +) '' ' & ) %* & ) + & ' ' * * 8 E E '

E ** * ' & + ''* )'' ? (5 * ''/ ) * ) ) ; + B L F0 7G L F0 7 FGG E * .FG * /' ' * ' * L FGN# * # + '& +) ; ) L FGE B

¼

L

"F0 7G

L @N

¾

¾

% 1

F$ G F$ G

%) /' + # ) +) * B *& +) ; ) * ' + 0 &E *E * ) + * * ) + F$ G ) ? (5 '+) * ) ) + * * * ) & * * ) * * * * K + + ) * ; F* G ./ * ' +) * & B F$ GE * Y7 FGF0 7 FGG C7

F$ !G

* )' + * ) * * * ) * ) K '* * * * + * * * ' * * K + ' * + * ? (5 *) %* & * * ' ) * * %* ) + * * ) + )

'H * 6 )) )'

* +* * ) + & , /)'E + +)& ' F* + C ) / * )G * + * * ' B& & + * * ) * * + * + * 2 ' & $ * & $ ' 'E * * * * * ; * )& )E * ' ) ) + F ; )E + 222G * & / F* * ' ) * &G + & B ' %* * + C ) / ) & + * ' * + * * K + * ) + * * $ ' +) * + * & * * * + $!E * * * * * ) & ) + * ' ' + + * ' * + * * ) & )' /E * + * * ; ' + * ' ' * ' :): + * ' ' ' * K &' + * & +) *

' + : : :* ;: * * '

(#

+ '

& )' / * ' F$GE * * + * * ' %* * & * * '' * & ' ' + ' ': '' * ' + * * ' * & * %* ) '& + * ++ + * *) + * '' + * ? & FGN F F GC GE * C * %* * ) + &E + /)' K + E * E * * )* * * )'& ' & + * " *

* + + ' ?2 ?2 FG * * 2 2 FG + * '' ' + * ;& & ) B * *

* ' * )'& + ' & * ' * * ) + * ; K ) + * ' ' %* * & Q + R * ' & ; ) + * '' + * ? & '' F M' MF) + 'O ) + ' * * + * ' ) E E %* * * K + + + * ' * * +) * + + + * ' * * +) * * %* *'' * + ) * ' * ) ) ) )

(&

/

* & + ' + * * *) Q R + ) A * * * !2222 ' + * * + 22! * * & ; * ' %* B * + * * 'E ? ) & + * + * %* ) + * * B ' * * * ' * * *

, $H " * ' * + * + * * * ) ) * * ' * ++ +) * ' * & )' / ' * * ' + * * )'& * ' * * /)' & * *

4 $ 0 0

4 8 '' * F, G ) ,= > : ) %* ++ + * * &H

L

+E ) / )E

E

L 0 7 L F N 7G ½ 0

%* & ) ) F ,= >: )G * *

& 4 8 ? & * + ** * * ' & * ')E + ' * * ' ) /

* 3 - 5 * M ') " * ½ FG ¾ FG * * + + ) *) ) / ) / * ) / ½ FG ¾ FG %* ½ FG

L ½½ ½ FG N ½¾ ¾ FG ¾ FG L ¾½ ½ FG N ¾¾ ¾ FG

* ' +) * +& ½ ¾

L ½ ¾½ ¾ L ¾ ½¾ ½

L ½ ¾½ F¾ ½¾ ½ G ½ ¾½ ¾ L ¾½ ½¾ ¾ ½¾ ½ L ¾½ ½¾

½

½ ) &E ¾ + * ½ FG

L

¾ FG

L

F½½ ¾½ ¾½ G½ N F½¾ ¾½ ¾¾ G¾ ¾½ ½¾ F¾½ ½¾ ½½ G½ N F¾¾ ½¾ ½¾ G¾ ¾½ ½¾

,) * ' + * * * & + & + H ¯ + ¾½ L

½¾ L

* * H ½ FG

L L L L

) &E ¾ FG L L ¯ &E + ¾½ L

½¾ L

F½¾ ¾½ ¾¾ G¾ ¾½ ½¾ G F½¾ ¾¾ ¾

½¾ F½¾ ½¾ ½½ ¾¾ G ¾ ½¾ ½¾ ½½ ¾¾ ½¾ ¾ FG F¾½ ½¾ ½½ G½ ¾½ ½¾ ¾½ ½ FG

* * H

F½½ ¾½ ¾½ G½ ¾½ ½¾ L ½½ ½ FG F¾¾ ½¾ ½¾ G¾ ¾ FG L ¾½ ½¾ L ¾¾ ¾ FG

½ FG

L

* * / * +) * ) / ? * ' + + & FG 8 * & * * * ' J *) + * ' ) * - ) *) * * ' * * * ' ) *

# *

,

8 * * * & ' + ' * E B F G *) * * * ') F* *G * ' & *'' %* 4 8 Y L 4 F G F G + L +

F G

* * & / + 8 * + & + + +FG FG / & )' 8 * * * ' 9 * * * 'E F G L 2 + * ' * /' + * * )) B * ' + * * )) F G L F G F G + + ) 4 8 K + * + * * +F?/G L ?+F/G * FG L * +F? G L ? L ?+F G * + +FG FG + E * %& /' & + * ) FG L

½

FG L

½

F #G

%* +) *FG + F G * /' /FG L

N !

F 2G

%*+ * * * + ' + * +) Y

L L

4 F GF G 4

5 * * * )) F G L 2 + '?

* F G L F G F G F G 4 8 * ) * E * )) ; * * + * * ' F G ' * ' '' ) * ' '*'

+) ) / ) * *J * ' B + ') * /)' + * * ) ' H * ' * ' & %*

+& * ) * * * ' * + * '' %* * + * ' ' * / & %* ' & ) ) * * * * ; + + * * * * ; E * ' + / '

9 %-

: ' *) * * ( ' 5)' + * ' * * ) * * ' + * ' %* ' * + H Y L 4F

G

F G

''/ ) (5 (5 * + * +) ' E * ** + * &

)' +) + * 7* 4 * +) B ? B H Y L 4F F G F G

F GG

F G

%* ''/ ) * ? )' + * -* * 22V + * *) * 5 + E * + /' )& * * *) ' + ) ) / + F G * + ? & * &))& * * + * ' *)H * * *)E * ' '

)' + F /' )& + * * *) * ' & * ' G %*+ * *) & + * ' * ' ' )' *) 8 * ? *) F G * ' / & ) + *

* - 7* 4 * * * * *) ' + ' * /)'E ' * /' ) ' )' + ) + )' 'H * /' ) + )' + )' + * ) + H

FG L

F ' 8 G N D

F G

%* )' E E +B E '* 8 ) ) & * *) - & * E D F2 22!G * ) ' )' )& + FG * + * B )E N N - * * * ' ? + ' * ' )' ' * * + K * %* * , * * ' + * ? ' * , ! %* ' & K & 5& * ' * + ' E * : '+) * & & '

)& 4/ &

* ' * )/ ) ) +) ' @ '