Neural Networks And Information Theory

Citation preview

         


 

   
      

           ! ! ""#$ % &

###



  





!
$



                                                            "        %&'  ()           * * & +          ,  %              

- ./)'        
 ./             

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         

         


(  &                    

                        

 
%* 0   ) 1    

 3    + +)           


" *)                

 +)                 

 .'&                  

 4   5   .'&     

! 6 +)            

$ %* 7  "  1       

 .'& +)  5  1   

 .'&  * 0  1   

 +)  %*&  *       


   *    * ' 

    * '           

 6 *  '       

! (  ' 5)' &          

$  & ./)'                 

 ./                       

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

                  

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

      



     


   !

)' 8  "             

  & + * )' 8  9  - * 1 &  8  "        (  ' 5)'  - * 1 &   :   6             
1   + :   6 9  (5 6               !
: '   *)       


       



  #












2

2

2



!

$







#

# 
   $



# 2 
    




! : - * '   *)    ! : 0 ; 8   *)  $ %* +6/ (  '  " : 6      9                         
6  5)' &              +* ) &         *   '  *  *
 Y

L 4F




G * *      ) / +)  Y5 L 4F(

 



G

F

G

*   *  & ) / %*       * * '    F  * K?   ?8   G  * * /'     + * '  B 
  *     +   *  '   '   & + * ) ) + +)     * '& +  * '  * ) %*      Y
 L 4F8
 


 G * 8
 L 2 +  L +  %*  + 8 +  E   )  *     * '     ) * +)  ' +  * 

$ " %      

!

Input values 25 "before.dat" 20

15

10

5

0

-5

-10

-15 -15

-10

-5

0

5

10

15

20

25

Output values 8 "after.dat" 6

4

2

0

-2

-4

-6 -6

-4

-2

0

2

4

6

,  H %*      * *&  %* '  *   


    #    

! Hebb weights Anti-Hebb weights Inputs x

,  !H %*  * +) * ' &  * '   & 8   J )*   * '   &    K * 

      * * *   &  ?8    x1

z1

x2 x3

z2

x4 x5

,  $H %*   +   

5   (3 4

  * *  )  8    ?8     *    /    * '  ' )' +      * /)'  *  ,  ! 9  * *   )  * * * ++  *   * ¯  )' 8     *  )   +  *   &   ¯ 8    + *    &' . * + * *      *  '  ' )' + * '  8   * '       &   
'   *   * * *   &  ?8     * ' + *   '   )  & * (  '

)' + * '    & *     + +) *  '  %*    *    '  *   '  ' )' %* *    )'      /  * )/ )) +)  +) *    )    '  * *   '  F* * *   *   '  '

)'GJ  *   ' )/ )&  * *  '  ' )'       

"(   +  4

%*   +    *  ,  $ %* '    * + *  J      '' **  *  * '  *  ))   '   * *      +   
   * '     * *  &  *   +  ' * '   +  '   )' 8   F  ' *  * +)    * G     *  *     * (  ' 5)' + * '  %*     *    + *  

:


 




L




 




F
G

    & 
   F N
G   FG  



Y



 :

!#







4 :  F N
G

L




F
G




F
G



*  FG  *   + *  '    )  %*   /'   *  &E )     ''  +  *  * ) %*    + *  * ) + * '        ?8    -     *    +)  +) ' /  ' ;J &    * K  + *     E   * * *    B   : '   *)    F
G  F
G   Y


L L



 : 4  : :

4 F N
G: 4F FG   : G:














L

F









G

F
!G



*  *  '' *  ) FG   +  )' & %*   +)  + *    F
!G  / & *    + * '   *)E .B  F
G %* )'      *     5*'   +)    +  

##


8  

  *     )   * +     E  *   * '  *  Q%*  RH *   * /   +     * * *   *  * *  *)   %*  + *     *   )   *     ) +    &)H *  * + *

   +) * E;E  * ))  E&E  )      * +) * ))  E&E  * E; %*     & )'  - *+ *  ''  ) * *  *    &  K  *  '& +)  * * F   * ) G

 < :7 :;

L 0  ;< L 7 L 70 L 4  L ( F, J $ J ! G N 
( F, J $ ! G N  ( F, J ! $ G N   F, $ ! G

F!
G

&   *   ')E 
       * )'  + *   ?

   * * ) ' , %*& / *      + ' (  ' (   * * ?    * * '    ) + ' )   *    + *   *  &

&( / 5  *  *  ,  !

 - *    ' F
O?
G '     ' F
O?
G / ' *  
$ '  ' & * $
 !
:

   -    + *  )' + * +) & +    +       E * + )/ )   > L ( F, J $ J ! G  )/ )   *   +)   'E '  /   -*   *    !
 $
  2 F  & * *

 GE   * *  *  % !
  . & *  *  *    * '  /   * *    *  * ? +)   * *     *   &    )        *   +    '  * * ) / +     * *  /     ' *     E *   I   *  * ?    '  E * *   * E  +E * *  )   2 '

&*


"( % # -  

  

5  5  &    *  *     * *     *  ) &    5    + ' E +) * *    )'  +)  '  + '  E 0
 0  %*    55E  )'   *   )   + *   * *    )/ ))    * )   "



L 1
0
L





 


F!
#G

   

 
¾

L 1¾ 0¾ L




 ¾ ¾

F! 2G



%*   *   *  + 1½  1¾ * * )/ )  *   
½ 
¾  -* (  ' 5)' &   ,  &    * *  * '  *    +  E 55   * *  * '    +   + *   
½ 
¾       E  )&  * '    +   *  '  + *  0¾ & *  0½   ) & +   * ) '      *  0¾ +) * 0½   %*E         * *   + /)   '   *  *   &  * *& * 

  *    * )   * *     *     * /) - ) *  *    : '  /)  '  *  *O* ) *   *   /)  &       &     /  + ) '   9?

 *  ) '   &  *    '     0½ ?    B

    ¾ ?    ' L
  %*          *  

)   + 0½ * *  ) * *&   * ¾  " 0½ *  ) #½  0¾ *  ) #¾  %* *     )*      [½½ [¾¾ [½¾  

L  F0½  #½ GF0½  #½ G L  F0¾  #¾ GF0¾  #¾ G L  F0½  #½ GF0¾  #¾ G

F!
G F!

G F! G

L [½½
[½¾ [¾¾


F! G





* %  * ' +    - * '+)   D 1 )'   + 7    L F4½  4¾   4 G-F?½  ?¾   ? G F! !G * 4
 ?
 *       +       '  &  1  *   ) / +    %* *        F* * *     G    & 

1½ L [½½
4½

F! $G

1¾ L [¾¾ ?½

F! G




 * B         ) + * B    E 4
 ?
  *  *'E  '   )')  + 55 * * ' &  * ' )  *  )/ )     *   &*

 %   %  ,

%* '  )'     0½  0¾       + + +)  * '  *

'  ' ** * '    *E 1½  1¾ F ,  !
 B  F!
#G  F! 2GG    '
½ 
¾  -  *  )/ )  *    F
½
¾ G *  FG  * /'   * *       *       + 0½  0¾  - )&  *  ')  * + )/ )   * +   ½ F1½ 1¾ G L  F
½
¾ G * *      +   + *  *E 1½   * *  + ')E 1¾  %*       )/ )   ') * * *         )   * )/ )   %&' &  55E   *   *  F
½¾ L
G   ) &  *
¾ *  )/ )  ¾ F1¾ 1½ G A  * )* + "


   !
 & 
  



outputs y 1

maximise correlation

w 1 x

1

y

w

weights x

inputs

2

2

2

,  !
H %* 55  &    *E 
  E  )/ )    


  ) ' E *  &  *   ' )   +  E @
@


L  F


 G N 0
F


 G 


L  F


 G N 0 F

 G

- )& B &  @



L  F


 G N 0
F


 G N 0 F

 G

     )     * +       *  '    * *

  ' )  '& & )' & )  * 1
  *   *  1  ?  -  *   * ' )             *    + *    +  * + * +    * '   * *  *E 1
 1 E  * " ) ' E 0
 0  & *  * " ) '   ''   *   + 4   *  *   * + *   )'  * +     ' )  J *     )*& )/ )  * +    *    * *    +&  *     * 
F1
1 G  F


 G  F1
0

 G L L L 0

 F! G  1
 1
 1
* &  '  & @
 1
@
0


L 0

  0


0
L 0
F
  0


G



F


 G

) &  * * @ +  E 1  0  %*      )* + *  *  *  * " ) '        -  *      Y
 Y0
Y  Y0

L L L L


 F
  0


G

 F


 G

 F

 0
 G

 F

 G

F! #G

* 
  * +  ) +  *  E 1
   *  + )'  & *     *   *   

   

 

!

8 E     )')  + (  ' 5)' &  F(5G  * '   *) )&  &      & + )* +   ( ?

' 5)'E    )')  + 55 )&  &    & 8 E  *  * *   /  + (5      * + * '

)' +    F5G  *  * /   *+        +       - *+ /   )')  + 55 & )/? )   *    ' *  * '     +   + * ' -     '   + )/ )   +  F


 G * * 

    +   + * 'E 0
 , *   ' )  E   
 L    F; 
 G L 1  * * +    FG  ''    )?       *     %* B  ' )   +   + *   ')  *




L  F

 G N 0 F

 G


@ F1 1 G L  F

 G N 0 F

 G

@ F1 1 G

           !  &*

   /

- '  )   *        +    )'/ & -    *    * * *         ) * K   + *    : )  )  - * / * )*   &  '   *      * BH
 - )/ )     ) *  '  

 -   )/ )     *  *   )&     '   + *  &*#

3;    

  /' ) )'       H 0
    )   E  * + * )   +) * ;?) 0     E F2E
GJ 0     )   E  * + * )    +) F2E
G         *   E 0
 0 E       )' +) F2E
G     *  ) +  *   %* *      *    * * * /    *  ) +  * A         + 2222
* *     &  2   !2222  E *  *    *   F/2%E 22 E ?22!
E ?222$G  F/2%)
E 222E 222! G %* 

&  * * *    *  ) +  * + *     * +  * *   * &   *   - )& )' * '    * * ' )  + F 2!E2E2E2G  F 2!E2E2G %* K  + *    *    + * '  &  *  * *     +) * *  )'    F2E !G %*  *       F/2

E 222 E 222E 222 G  F /2

E 222 E ?222
G ? * ' )   F 22 E2E2E2G   F 22 E2E2G %*  K   )     *  E  F

 G L
    F

 G L
  F1
00 1
 G L 1
* 1
 L


* *  *     ) / + * ' 

F!2G


   !
 & 
  

$

    6/ )) 5 

1
1

  6/ )) 5 

1
1

2$#$ 22 $2 22  2$$2 22 $ 22 #

22!
 222


222!

22! $ 222#

222


% ! H %*    * +) *    )'  * *  ' +)       * B &*&

/  

   /' )     J  )'   : )  ! ) /) %* /)    '      H  /)       /) F5G *  * * *  '  /) FG %* /)   *   + 6 * F5GE D F5GE FGE & FGE    FG - * '  *  

  F/) )G   ?* ? /) F

 
 G  * '? /) F
    G  '  B & +  *  * * *&  :   &  ?  /)    * *    &  '? /)  &E  ) * &   * '? /)   '  * ?  F  G %*  *  % !  +       + 2222
 !2222   - *  '      ) '   *      +   )'   * * '       / * *  + &      * )* %* 1
    + *  * +) *   /)  

*  * 1  

  + *  * +) * '  /)  
  -  * /  )  * )* %* * *      &   *   + 

 
  * * +)    *+ *  * + *  F   1

 1
 G  *   + 
    * &  *  
F   1
 1  1 G &*(

/    - 

 *   *  + *  + & +)  '   )&  * /   + )) +)    K     & )     * *   '     + * *  * * /    )  '   & '  - )&  *      ) + )    K  ) ? 0
 0 ? * * )&   * '  +   K )      K '  + * ) ) & *  * '  )&   K   *  )  '    *  ' *    /' )     * *      + )  )H  /)'  * '* &  ,  !
 %*   *  *   *   K       ) *   /  + * 

*   *  ' + *  & +  ))   *  'E  *     E *  + * *  '   *  '     . * '     +    )  )  ' * * '  * + )   * +   + *  * * '  *  * ) %* + ) *

)'   * B '  & +) *  

 *  * )   & *   )& *  * + ?  *  ' / +   ' /  * ?  ''&    * + ) -  *   * )/ ))     


 * *  *)    )   + 0
 0    * * +  *  * B '  &E *   B  +   '   +?* +   *?* +     *E  B   '  + '  * '  '  +  * F1
E 1 G  F1 E 1 G %*    + 1  1  *  /' )    * + 1
 1 J   * '  +  )' + ' E   )' )'    * ' 


 

 )  * *  *     *  ' )'H +


 

 E * 1
E 1  'E  1 E 1  '

   

 



right shift -1

y 1

1

1

y

-1

-1

y

3

-1

2

1

1

y 4

Maximise Correlations pairwise

,  !
H %* 9)  )    %* 0    *  + * +    * * + F *G   + * 0
 -  * 1
 1  &  * + * +  1  1 *  * * +   

1
1 1 1

?222 222 ?22
 22



2

/ 22 ! 22 $

/2)

222

/2
2


222

?222# 22 2 ?222 ?222

% !H %*    * & * * *  '  +  *    * * + *  *   '  *   + * + A      + 222

22222  E *  *    *   *  % ! %*  '  +  * 1
 1 *    *   ) + 0
 * *  ) + 0  *  )/ ))   *  * '   F*  * +) *  ''/ )& 2G %*  '    * * + %*   '  + ' *  F)'G   + 2!
 ) & *   '  +  * *  * *  ) + 0
 *   ) + 0  *  )/ ))   *  * '   %*   '  *  F)'G   + 2!2  '       + + * +  + ) ' *    )  &      '  * & *    *?* + '   *''  ) * *  * 1  1  *+   + '  + '  +   B   '+)     : 6@  ,  E  *  + +     *   '   *&  K ' + * '  F**  *   +   * * +G %*  * ) * * * *   ) +)  '    * * +?+ +)  *  * *  * * +? *  *    *  '  *   &    +
+ *
$ '  ' %* * *  )  F *  F?
E
E?
E
GG  )  *       +) 
$ '  '    E    )' & /'   ''  + *    + ) +)  -     *    *  &  )'  5)'  * 55   * 7&  (*  ': E  ) *    +) *   E 0
 * '   *   0  * / ' %*  +) * 55   * 7&  (*  '    )  E ** 7&  (*  '   '     *        +      ) * K  +

/ +)   * ' + *   ' 


   !
 & 
  



, &E * 55  ' * )&       ) +    +)  '    *  ''   ?  )')  + 8     * 1
 *  * )  +
   

 +?   '   &   ' ? 

   * *  
 

* '   * +)  * 1
B  +    &  )&    * 0
')     * +)
 

  *     )
 Y
 L F 0
G
 F 

G 0
Y0
L  F


 G *  *  *   '  0
)  *    (*' *   + *    ) '  * *       * ?  + + * '        ?     *  )     '   * / %*     + +*     &**

'   ,  

   +)  +)  K & )  E * / )&  '  * * ') +   * +) ) *     )& %*+  / *  *)  *     & )'/     '  * *   )   & )'  -        * * )'  *    * + *  ) * 

  + B ) H 0
E 0  0   *   )   E  * + * )    & '&  +) F2E
G -    )' +) F2E
G     *  ) +  * + 0
E 0  0  )'  )/ )  *   

E
 
  - '  )/ )  * '      +  H @
@ @


L  F


 G N 0
F


 G 


L  F

 G N 0 F

 G 


L  F


G N 0 F

 G

-       *    +  * + * +    * '   * *  *E 1
E 1  1 E  * " ) ' E 0
E 0  0  %*     *    @
 1
@  1 @  1

L 0

  0


0
L 0
F
  0


G L 0
  0
 0 L 0 F
  0
 G L 0

 0
 0 L 0 F

 0
 G

%*    * '   * " ) '    )   * '   F! #G **  *  + )'  & * *     *   * * 0:       & &   F   22 
222 G A  L2222
E  L 22! 
22222  E *  *    *  *  % ! %* * &     & *  )*  B  * '    

&*

 L









F$G

 

 



%*

F$!G

+   )'&  *  )/ )  ,         * Y
 L

> L 
¼

 


F$$G


        



2

    
   + * *  *    '  E    *  +  F   * )  + * *   *    G    )' 8   H Y
 L 4



F$ G

* 4E *   E   * 
 +     * *    & '   )   * '  ' )' + * '  ?       * ) +? )  -    '& )     *   *  )'  * * ) B

   '  *     ' H +   &   ' *  F
 G L  FF


 G G L 2

F$G

-   ' *    * ' )   &   * )* + " ) ? ' H   &  )/ )  * +   0   & AL> N










0
 


* *    Y
 L

A 


F$#G







 4

N








0



F$
2G

-*  * *     *  F+ * 0 G 

 *  0
  B  ? %* *  * * B   ) Y
 L 4


 








F$

G

%*      * 5)'   8  9H     *  *  )   *   * + *   +  *   '  '           * )      )   %*  *+ * '*  *    *  H

= &  1-

 *   *   &       F* )  *  
G        )' 8      *  (  ' 5)'       * * *& *   E F    G *&     * * *             )     '      '  ? *  *   *  &  + *  +)   +  '

= &      

%*   * K    +   + * 5)'   8   *)      ?  * * *''     & ?      K *   + * *  %*       K     K   + * ' ' 

= &   

-* * )'     +  F*   )G  )  E     '       )'& ) *  ) 2 +  &)   *  E *   &     &  + *     )  )'& ' *  *)  

%* 5)'   8   *) * ) 

   * ;      ')  * '   Æ        *   ')   *  *) *    *  +  '  ')   *  

   
 

Input layer

measurement prediction


2!

Coding Layer

,  $!H : ) *     ''  +  '   ''   ?  !

4 $ - 4

%*  *)     *  *'  ) )   Q6 ' 5 6R    *  )         & + '     * *  * '   )'& 

 + & *    +  + + * '    * &  + *
 '  '   

 + & ) )   + *
$ ' E  * + * * '  + *
$ '  ' '

(&
-  2 '   * +  *     *     +   8    *  ,  $! - *    & '   
        * *    &  * 
   'O   &

 

 
  %*  *  ** +      '    *   &     )  & *  *  *  %*  * )  & + )'     * *  *  )' &   *  ' + * '  %*   * '   '  * *    '    '  * ' *      %*  '    *   * ' & 

 * '  '+)          * '    * *   + *

  ' H + *      &E *  )    * '   ''/ ) *    * *  &   '  *  -    *    * '  & *    &  ) +  * *    *  *  *  %* *  * '   + *  + * +  '   " L




F
  
 G

F$
G



5& +   * ) + * '    ; * * '      ;  * * *        * +    
E * '   + *     ? *   *  &  Q:  + R %* '   +   + 1 '  *  ,  $$   ) )     &?9 +         )*  + *  9 +          +   B  *    * F     )  &  *     *  *'G 
L




 F
 "
 N F
 
 GF
 "
 GG

F$
G



* *   '   *  '  *  * +  '  + 
  "
  )& '' *
 2 * *    +     ;   *  ) *


        



2$

The prediction function

1

0.5

0 1 0

0.5 0.5 0

1

,  $$H %* '   +   +    )   

   +             +    )& * ) + *    +      ' '  * ' )  *  + &  *      * * *     +& * ' * ;       '   * ?'   *     )H * ' )  *     '& +  * *      '   *: '    * + *   + ,  $ E  *      *   F
E
E
G  )'   '  * ' F
E
E2G %*       '  F2$$$E2$$$E2$$$G * * )  )  *  +   8       *  F
E
E2G  )  )  *   F  +     ;G *  )      *   +    '  )/ )&  F
E
E
G  *  *  * '    K '   *  )  )   *  +   K ' + * ' ' 

0.666

1

1 0.666

1

1 0.666

0

1

1

0

1

0.666

1

1 1

0

Inputs

0

Predictions

,  $ H + *  &       F
E
E
G * '   ' 

&  * ' F
E
E2G    *    '   + 
 * *  '      + ) 
 %*  *      '  ¿¾ +  * '  +  *   E *           *  '   * *      * ' F
E
E
G

  
       


2

Predictions

Code Units

Inputs

Prediction Units

,  $H *) *: (   & 6  )   H ' '     * FG   . *   + +   * * '     


 . * '     )'  '  * '    : ' . *

   )*  )'        '  (&

 "   > 

1&  C)  * ')   +     + '  '  &     '    * F''/ )&G )  ) ; *   '  * +   + /)'  +) *    H * )  ))   '  * +  * ) + '  B      * '       %*   )    ''    *    *  & +    %*& E * E  ?'&    * 

 & + *      * ' & A  *   *   E *& * ) 

  + * *           )  )  V + *  )  * *  '  '  *  '   & + ) *    !!

%   # 4  &  

*) * *  '   F,  $G+ /   + '     * '  ' + '   & )  )   %*    *  * '   & F*  &  * , G )'  '   *  : '  &  * ' + * *   *   )&  *     )'    )  '   '  & '  ' ''  * *  ' +) * + * *    ' & *     *  * '         ++ )       
*   * '   )'   '  " * ' + * 

  

 %* 
  G F$
G

L  F




*  F=G L
 
,    * +  '  2      &  L ;










%* ' + * '   F$
!G

 

   & * ' + * *     *   * *   &   '    *   '    F*       ''G



5
. *  +  *     )  )  * ) B '       

+ '   )  )  
F
 

 G E * 
  * ' + *  '     *  ' '   +   )  )  *  +  E * 
  *  *    /'    F


  L + G + * '       * ' + 


        



2 Output

Gating weights

Expert network 1

Expert network 2

Expert network m

Gating Network

Input data

,  $#H . * /'  *      '  . * /'    '   & +  '   + '   *   /'  * ) *    *    * : ' + * ' * *   -   * *     /'       * )   & '   *  + *     + *    
 *  + *  )  2 * *  * E *    /'     2  *  / 5   *   ' *  *      * *     ?

)'   )/ )   & * )    +   * *  ' &   )  )    ) *)  '   '     &  * *   *  *   

%*     ?   & *   * *  *  *   *  )/ )   & *   '    *   *  *    '  )  )  *  '   

*) *  * *     & *    B ? &H  *      * 2O
+  * '  '  *      * ' '  * *

    )'&    Q: R '   * ' !'

4 / ) ./$

-     )*   * ) / + /'H *     *   * /' F* *  &' & +   ''   G    '   & +  '   + * '  %* /'  *     * * *   ** +  *   *     *   * /': '   & + '   * '  5  *  *  ,  $# . * /'   * '    +   * *     & '    F  G )* %*      * '      & '     '   &   '  '  &  * *  *  *   *    '   & + * '  #  &




  )' ) *        

 

 L 





¾

F$
$G




* 
 * '   + /'    E 
 * ''     + /'   * )  '      *  '      *   *   /' * * )  
*  * /' '&   *  'E


       


2#

%* ')  * *   +    * *      '   * /'   *)    *  &    *    * /' )'  )  )  *    *  * * /' *  * *  & * *        *   /'  )     '   & +  *   &"

-*  & B   +    /'  ) *     * *   /' *     *  %*     ) + * +) 

L  F   


¾G L







    ¾




F$
G




8 *   * /'   + *    *  * /'  /'   '  * * + * ''/ )   *   *      *  *  * ''/ )   %*      )    '     * * /'

*   * *    )&   ) + '   & '' )  *   ) *     * + )  *  * * *         '   -*  /'      * *  *   + *     /'E  '   & + *     F*      *  + 
G  +   E  '   &    %*      Æ &  * *   ) *  * *   *    *  + * + *   * * 'E 



 


L  
F  
G

F$
G

+) * *    * *  + * + ) * *  + & +) *     * *  -*  *    & * '  &  E    *    K       # ( 8 $

5  *  ) 

L  








/' F




    ¾ G




F$
#G

* *     & )  *  '        &  0    ?      )/ )   *    '  & + *  '       -*     *    + *  +    * '   * /': '   ½

¾


/' F  ¾    
 G F   G F$ 2G L 
½

¾

  /' F
  ¾      G



%*  ) *  *  *  ) *  '+)    * +  * *  +   )   

 *  *  /'  '+)  )'   * /'

(*
3   4  
 '+)  /' )  * *    +)  ! '       )  &   %*& )' *    * 6 / + ./'   *   ''    * *  &' &          %*      + *  *  *    H   &  * /'  *  )'  )  )   *   *     & /)' %* E  *  E 


        




2 Expert 0 Expert 2 A

Discrimination line from Expert 0

A A A A

A a a

A

a

a

a

a

Discrimination line from Expert 2

a

Confidence line

,  $
2H  /  + * *     * ) / + /'  * %* )      *   :  + * /'H  /)'  * + + *      '   &  ./' 2 *   *  *    '   &  /' 2 . * + * /' *        )  +   * *  

 +    + '   &  

    *  & * )     *     ?  &  

'   *    *   )'     * * * ') + 8      * *         )  +)  '   * * *  B & ) '   & + *   %*    * * /' +      )  )   + * *  , &    /   +    *  ,  $
2 *  *  /'  *      *  ) * ')     *  * + *  *    + * ' '  *   K       *   K   %*    *  *      '   & + * : '  * /' + ')  *  * * /'  K   !*

"( % # -  

(
  0   5  3 " 5*  ,&+ *  * *   )' *  * '   *)     * *    * ' )' + *  H   )'&    *  *     %*   + *    *   *   *   /  *   *  *''  *   * *    ) /  * 

*  &'    F *G  *   *   *  9  *   *   )'   * 0    * * *        *   (  ' 5)' + *  )' 0   -   * *  *   *  *     *  + *   % $ *  /)' + * ' &' &  F * '    ' G   )* +   '   + *  &'  *     * B + ,  &  F,G (5  ,  &      * B * + * *  *    Æ  )'  + *      K ) %*&  *      )*  /'  *     ) ) +  )   ,    )'   *  + * &   * (5  ) + -    (5   )'    +)  +) *     )'

E *  ,  &   *   +)  * *   +)   + *  +   *     (5  ) +E  )  )'   * +) + *

    

  2 2 2 2 2 2 2!
! 2

2 2 2 2 2 2 2!

2

2 2 2 2 2 2 2 # 2

2 2 2 2 2 2 2#$  2




2 2 2 2 2 2 2 $ 2

2 2 2 2 2 2 2## 2

2 2 2 2 2 2 2!# 2

2 2 2 2 2 2 2
# 2

% $ H %*  *     '  %*  * *      '& *      * * '   ' ' ' ' '




  !

'
2222 !! 222
 22
2

/2/) /) /2/%/

'

/2/)% /2/ ) 22
 222

$! 222
$#

% $H %*    * + *  *  * * &    *   + :     ) / 8  ,    *  '  ) * *  &   &  '    )'   *   %*  , )      & * +   * 'H 0 L B N  F$
G

* 0     '  + *  E  *   + + E "  * ) / + +       *   + '   F BG +  -   * '  E E     *   + +      * +  &         B  + +        &   + * +    '    + * +    /'  *   B& Æ & %*+E &' & * &  +     '  *  *: '    * &' +      & ) )    

)   /   * +  &      E   ! ) / +      '      *

 L  FG N  F G ' ' 
L  F N G N  F  N G   

  ' G L  F N ' L  F N G N F!G  L  F!G

%*   ) /E   
E      *&  + '*E *    & '      *     * )    E *   * * ) /    %*+ *  * '  * ' + *     *+  *  +      )? &   *  +   
* * &     )    K '*   (

  0 +

 +* '   &   &  * '   ? H *  * * ) K  + +  *  *   *   


        






  '   &     +   + * '  *   (5  *) * *     *  L



Y








*



L /'F













  G



   +   

L


N /'F 







  N G

F$

G

*   *  )  *  )  '  * /?/   *     2  /L2     2  /  ) )    + * )*   * * '       + *  *   *    - )& * * +  & ? )  ' E * /      * N
     * *  & '    ' & '        &E +  *   ? )  ' E   *      *  & '      *  '   ) * *   /' &  +&  '    *       )'  ? & *  )   * &   +)    (

3 0 

8 E * ' + *       * '        '   * *  ) ' *  ?  *   *  * ' + *   /   * ' '  * &  / ' *     *     + *  )  & + * ' '  &        + * ''   + * ?  &    * &  )& ' '  *   *       * *  )&    +)     ''        '    &  ) %*  &  ) +    & '  '   *   *  8   E    E '

 E    **   * '   & + ''*  )''  ?  (5   *    ''/ )   * )  ) ;  + B L
F0    7G L
F0  7 FGG E * .FG  * /'   '       * '   *  L FGN# * #     + '&    +)  ; )        L FGE  B

¼

L




"F0  7G

L @N

¾

¾

%
1


F$ G F$ G

%)      /'   + #   )  +) * B   *&   +) ; )    *  ' + 0   &E   *E  *   )  +     *  *  ) + F$ G )    ?  (5  '+)  * ) ) + *        * *    ) & *      *   ) * * * * K  + +  )  *    ; F*   G ./     * '  +) * & B  F$ GE  *  Y7  FGF0  7 FGG  C7

F$ !G

 * )'  + *    )  * *  * ) * ) K   '* *  *    *    + *    *   * ' * * K  +      '  *    + * ?  (5  *) %*     &  * *     '    )   *  * %* )   +       *    * ) +   )  

  'H     * 6  ))   )'  

    

 





     *  +*    *       ) + & , /)'E +     +)&    ' F*    + C ) /   * )G *  + *  *    '  B&  & + *   *  )  *       *  + *  +  *  2 '    &   
$    * &
$ '   'E *  *      * *   *  ;  *    )&       )E  *  '     ) )  +   F ; )E     +     222
G  *     &    / 

 F* *  '  )   *   &G +  & B ' %*  *    + C ) /  )   &   + *  '   * + * * K  +      * )   +  *      * 
$ '   +) * +    *  &      *     * * +        $!E  * * * * * )        &  ) + * ' '   +  +     * '  *  + * * )    &   )' /E   * +  *       * ;   '  + * ' '     *  ' :): + * ' '  '   *  K &' +  *   &  +) *

 ' + :  :  :* ;:   * * '    

(#

   +   '   

&   )' /       * ' F$

GE    *       *   + *   * ' %*    *   &     *   * ''   *     & '  '  + '      ':      ''   * '   + * * '  * & *     %*     )  '& + * ++  + *   *)  + * ''   + * ?  &  
 
FGN    F
 F 
GC GE * C     * %*   *      ) + &E + /)'        K  +  E     *     E *  * )* *   *   )'&     ' &    +  * "  *

  * + +  '  ?2  ?2 FG   *  * 2  2 FG + *  ''  ' + * ;&   & )  B  * *   

  * '  * )'&  +   ' &   * '     *       * )     +     * ;       K ) + * ' '  %*    *   &    Q +   R  * ' &   ; )     + * ''   + * ?  & ''    F M' MF) + 'O ) + ' *  * + * '  )
E E   %*  * * K  +      + +     * ' *   *  +) * +    + +     * ' *   *  +) *  * %*  *''   *    +  )   * '    *  )  )   ) ) 



(&

/

 *       & + '  +      * *  *) Q R +     )  A *   * *       !2222 '  + *   *     + 22! * *    &  ;   *    '  %* B  * +       *    *      'E  ? )  & + *     +   *  %*  ) +    *  * B ' *    *  *     '    *  *       *






        


,  $

H "        *  '  *     + *  +  *   *  * )  )  *  *  '    * ++   +) * '  *  & )' /   '  *        *  '   +  * *  )'&   * '  *  *  /)' & *   *   

4 $ 0     0

4  8 ''     *   F,  G  )   ,= > :  ) %* ++ +      *  *      &H






L 






 


 +E  ) / )E     

 E 

L 0  7 L F N 7G ½ 0

%*   &  )   )       F ,= >: )G   *  *

 & 4  8    ?  &  *    +   **        * *   ' &   * ')E      +   '  *  *    '  ) /  


   
   




*
3   -   5  * M ') "  *     ½ FG ¾ FG * *  +   +  )   *)  ) /    ) /    * ) /   ½ FG ¾ FG %* ½ FG

L ½½ ½ FG N ½¾ ¾ FG ¾ FG L ¾½ ½ FG N ¾¾ ¾ FG

  *  ' +) *   +& 
½
¾

L ½   ¾½
¾ L ¾   ½¾
½

     L ½   ¾½ F¾   ½¾
½ G ½   ¾½ ¾ L
  ¾½ ½¾ ¾   ½¾ ½ L
  ¾½ ½¾


½

    
½ ) &E
¾    + * 
  
½ FG

L


¾ FG

L

F½½   ¾½ ¾½ G½ N F½¾   ¾½ ¾¾ G¾
  ¾½ ½¾ F¾½   ½¾ ½½ G½ N F¾¾   ½¾ ½¾ G¾
  ¾½ ½¾

,) *      '  +    * * * &    +   & +       H ¯ + ¾½ L

 


 ½¾ L






*   *  H
½ FG

L L L L

) &E
¾ FG L L ¯  &E + ¾½ L






 ½¾ L


 

F½¾   ¾½ ¾¾ G¾
  ¾½ ½¾   G F½¾   
¾¾ ¾  


  



½¾ F½¾ ½¾   ½½ ¾¾ G ¾ ½¾ ½¾   ½½ ¾¾ ½¾ ¾ FG F¾½   ½¾ ½½ G½
  ¾½ ½¾ ¾½ ½ FG

*   *  H

F½½   ¾½ ¾½ G½
  ¾½ ½¾ L ½½ ½ FG F¾¾   ½¾ ½¾ G¾
¾ FG L
  ¾½ ½¾ L ¾¾ ¾ FG


½ FG

L

  *  *   /   *     +) * ) / ?  * '   +   + &  
FG 8  *  & * * *    ' J         *) +   * ' )  * - )      *) * *   ' *  *       * ' )  *

 # 
 *




   ,

8     * *  * & ' + '  *   E  B     F G  *) * *    * ') F*  *G   * '   & *'' %*    4  8   Y
 L 4 F

G F
 G +  L +

F G

* *  &  /  + 8      * +    & +   + +FG  FG     / &  )' 8    * *       * ' 9  * *    * 'E  F


 G L 2 +  *   '   * /'   +    * *  ))    B  * '  +   * *  ))   F


 G L  F

 G F
 G +   + )   4  8      K  +    *       +     * *   +F?/G L ?+F/G  *   FG L   *  +F? G L ?  L ?+F G   * +   +FG  FG   +  E *  %&   /'      & + *  )   FG L


½

 
 
   FG L


½

 
 


F #G

 

 

%* +)   *FG +   F  G    *   /'   /FG L  



 N 
!

 

F 
2G

%*+ * *   *    +   '   + * +) Y


L L





4 F

GF
 G 4  

 



 






5     * *  * ))  F

 


G L 2 +      '?   

 *  F

 


G L  F

 
G F

G F 

G 4  8  *    )     *        E *   ))  ;  *   *    +     *  * '     F 

G    '   *   '  ''  )   * '   '*' 

  +)  ) /   ) * *J  * '      B  + ')   * /)' +   *      * ) '   H * '          *  '  & %*  

+&   * )    * * *     '  *  + * '' %*     * +  *  '     '   * /  &   %*  ' &  )  )  * *     * * ;     +  + *          *   * * ;   E * '         + / '

9  %-

: '   *)  *     * (  ' 5)' + * '  * *   )    * * '  + * ' %*     ' * +    H Y
 L 4F













 G

F 
G





   
   

     ''/ )    (5  (5    *        + *  +)    ' E *     ** +    *   &

)' +) + *  7*  4 *    +) B  
 ?  B H Y
 L 4F
 F
 G   F
 G





  F
 GG

F 
G



%*        ''/ )   *  ?  )'  + *  -*  *  
22V      + *   *)      * 5 +   E  *  + /' )& * *  *)    '   + ) ) / +   F G  *    +  ?  &  * &))& * *  +   *    '   *)H  * *     *)E *   '  '

)'   + F    /' )& + * *  *)     *    '  &  * ' G %*+ *       *)  &    + * '  
*   '  ' )' *)  8  *  ?    *) F 
G  * '   / &      )   + *  

*
-      7*  4 *  * * *  *)      ' + '     *          /)'E  ' *  /' )  ' )' +  ) +      )' 'H * /' )    +  )' +    )' + * ) +      H




FG L

 


 F '   8 G N D

F 
G

%* )' E  E +B E   '* 8    )   ) & *  *) -    & *   E D   F2 22!G *    )  '       )'    )&    + FG  * + *
 B  )E  N
  N
 -  * *   * '    ?   +       ' * '     )' ' *  *     +        K  *     %*       *  ,   *  * ' + * ?  '   *  ,  ! %*  '  &   K  &    5& * '  *    + '      E *  : '+)       *  &  &   '

)&  4/ &  

   *   '     *    )/ )  ) +)   ' @  '