ALMA MATER STUDIORUM - UNIVERSITÀ DEGLI STUDI DI BOLOGNA CAMPUS DI CESENA
SCUOLA DI INGEGNERIA E ARCHITETTURA
CORSO DI LAUREA SPECIALISTICA IN INGEGNERIA INFORMATICA
P R E D I C T I V E T E X T M I N I N G : M E T O D I D I
P R E V I S I O N E D I I N D I C I D I B O R S A B A S A T I
S U T W I T T E R
Tesi in
Sistemi Informativi Distribuiti LS
Relatore Gianluca Moro Co-Relatore Giacomo Domeniconi Presentata da Denis Di Paolo Sessione II Anno Accademico 2012/13
P A R O L E C H I A V E
M e t o d i d i P r e v i s i o n e O p i n i o n M i n i n g & S e n t i m e n t A n a l y s i s T e x t c l a s s i f i c a t i o n T w i t t e r I n d i c i d i B o r s aI n d i c e
I n t r o d u z i o n e ... 1 1. T e x t M i n i n g c o m e m e t o d o m u l t i d i s c i p l i n a r e ... 3 1 . 1 D a t a M i n i n g ... 3 1 . 1 . 1 C l a s s i f i c a z i o n e ... 4 1 . 1 . 2 A p p r o c c i o g e n e r a l e a l l a r i s o l u z i o n e d i u n p r o b l e m a d i c l a s s i f i c a z i o n e ... 6 1 . 1 . 3 T e c n i c h e d i c l a s s i f i c a z i o n e ... 9 1 . 2 T e x t M i n i n g ...15 1 . 2 . 1 C a r a t t e r i s t i c h e e d i m p o r t a n z a d e i d a t i t e s t u a l i ...17 1 . 2 . 2 A p p l i c a z i o n i d e l T e x t M i n i n g ...18 1 . 2 . 3 T e x t p r e p r o c e s s i n g ...22 1 . 2 . 4 T e c n i c h e d i c l a s s i f i c a z i o n e p e r i l T e x t M i n i n g ....28 2. P u b l i c m o o d e d i n d i c a t o r i e c o n o m i c i ...35 2 . 1 S e n t i m e n t a n a l y s i s ...35 2 . 1 . 1 A p p l i c a z i o n i d e l l a S e n t i m e n t a n a l y s i s ...37 2 . 1 . 2 T e c n i c h e e s t r u m e n t i d e l l a S e n t i m e n t A n a l y s i s ....39 2 . 2 S t o c k m a r k e t p r e d i c t i o n ...45 2 . 2 . 1 E c o n o m i a c o m p o r t a m e n t a l e ...46 2 . 3 A n a l i s i d i ― T w i t t e r m o o d p r e d i c t s t h e s t o c k m a r k e t ‖ .47 2 . 3 . 1 S t r u m e n t i p e r l a r a c c o l t a d i i n f o r m a z i o n i ...48 2 . 3 . 2 A n a l i s i d e l p u b l i c m o o d ...49 2 . 3 . 3 O F v s G P O M S ...522 . 3 . 4 C a u s a l i t à d i G r a n g e r d e l m o o d p u b b l i c o v s v a l o r i D J I A ...58 2 . 3 . 5 C o r r e l a z i o n e t r a C a l m e d D J I A ...61 2 . 3 . 6 U n m o d e l l o n o n l i n e a r e p e r l a p r e d i z i o n e ...63 3. S t r u m e n t i ...67 3 . 1 S o r g e n t i d a t i ...67 3 . 2 W e k a ...68 4. F r a m e w o r k c o n c e t t u a l e ...71 4 . 1 P r e p a r a z i o n e e f i l t a g g i o d e i d a t i ...73 4 . 2 C o s t r u z i o n e d e l l a l o g i c a l v i e w t e s t u a l e ...75 4 . 3 C o s t r u z i o n e d e l l e b a g - o f - w o r d s ...79 4 . 4 E s t r a z i o n e e d a n a l i s i d e i g r u p p i d i b o n t à d e i t w e e t s ..81 4 . 5 P r e v i s i o n e d e l l ‘ i n d i c e D J I A ...84 5. A r c h i t e t t u r a d e l s i s t e m a ...85 5 . 1 A r c h i t e t t u r a ...85 5 . 2 P r e p r o c e s s a m e n t o d e i d a t i ...88 5 . 3 C o s t r u z i o n e d e l l a l o g i c a l v i e w t e s t u a l e ...92 5 . 4 C o s t r u z i o n e d e l l e b a g - o f - w o r d s ...93 5 . 5 E s t r a z i o n e e d a n a l i s i d e i g r u p p i d i b o n t à d e i t w e e t s ...93 5 . 5 . 1 C o n f r o n t i f r a s i n g o l i t w e e t s e g r u p p i d i b o n t à ...94 5 . 5 . 2 C o n f r o n t i f r a t w e e t s a g g r e g a t i e g r u p p i d i b o n t à ...95 5 . 5 C l a s s i f i c a z i o n e f i n a l e ...96 6. E s p e r i m e n t i e r i s u l t a t i ...97 6 . 1 C l a s s i f i c a z i o n e s t a n d a r d ...98 6 . 1 . 1 M o d e l l o T W M O D ...101 6 . 1 . 2 M o d e l l o D J M O D ...101 6 . 1 . 3 M o d e l l o S T R I C K T D J M O D ...103
6 . 1 . 4 A n a l i s i d e l r i s u l t a t o m i g l i o r e p e r l a c l a s s i f i c a z i o n e s t a n d a r d ...104 6 . 2 C l a s s i f i c a z i o n e c o n m e t o d i m i g l i o r a t i v i ...106 6 . 2 . 1 E s t r a z i o n e G . J 4 8 : g r u p p i d i b o n t à d e i t w e e t s u t i l i z z a n d o J 4 8 ...108 6 . 2 . 2 E s t r a z i o n e G . S M O : g r u p p i d i b o n t à d e i t w e e t s u t i l i z z a n d o S M O ...112 6 . 2 . 3 R i m o z i o n e d e i s i n g o l i t w e e t s d a l t e s t s e t – G . J 4 8 .115 6 . 2 . 4 R i m o z i o n e d e i s i n g o l i t w e e t s d a l t e s t s e t – G . S M O ...117 6 . 2 . 5 S o s t i t u z i o n e s i n g o l i t w e e t s d a l t e s t s e t ...119 6 . 2 . 6 R i m o z i o n e s i n g o l i t w e e t s d a l l ‘ i n t e r o d a t a s e t – G . S M O ...120 6 . 2 . 7 F i l t r a g g i o i s t a n z e t r a i n i n g e t e s t s e t – G . J 4 8 ...120 6 . 2 . 8 F i l t r a g g i o i s t a n z e t r a i n i n g e t e s t s e t – G . S M O ...123 6 . 3 V a l u t a z i o n e d e i m o d e l l i t r a t t a t i ...125 C o n c l u s i o n i ...127 A p p e n d i c e A C o n f r o n t i f r a l ’ a c c u r a t e z z a d e i m o d e l l i p r o p o s t i ...129 B i b l i o g r a f i a ...131
1
I n t r o d u z i o n e
I l p r o b l e m a r e l a t i v o a l l a p r e d i z i o n e , l a r i c e r c a d i p a t t e r n p r e d i t t i v i a l l ‘ i n t e r n o d e i d a t i , è s t a t o s t u d i a t o a m p i a m e n t e . M o l t e m e t o d o l o g i e r o b u s t e e d e f f i c i e n t i s o n o s t a t e s v i l u p p a t e , p r o c e d i m e n t i c h e s i b a s a n o s u l l ‘ a n a l i s i d i i n f o r m a z i o n i n u m e r i c h e s t r u t t u r a t e . Q u e l l a t e s t u a l e , d ‘ a l t r o c a n t o , è u n a t i p o l o g i a d i i n f o r m a z i o n e f o r t e m e n t e d e s t r u t t u r a t a . Q u i n d i , u n a i m m e d i a t a c o n c l u s i o n e p o r t e r e b b e a p e n s a r e c h e p e r l ‘ a n a l i s i p r e d i t t i v a s u d a t i t e s t u a l i s i a n e c e s s a r i o s v i l u p p a r e m e t o d i c o m p l e t a m e n t e d i v e r s i d a q u e l l i b e n n o t i d a l l e t e c n i c h e d i d a t a m i n i n g . U n p r o b l e m a d i p r e d i z i o n e p u ò e s s e r e r i s o l t o u t i l i z z a n d o i n v e c e g l i s t e s s i m e t o d i : d a t i t e s t u a l i e d o c u m e n t i p o s s o n o e s s e r e t r a s f o r m a t i i n v a l o r i n u m e r i c i , c o n s i d e r a n d o p e r e s e m p i o l ‘ a s s e n z a o l a p r e s e n z a d i t e r m i n i , r e n d e n d o d i f a t t o p o s s i b i l e u n a u t i l i z z a z i o n e e f f i c i e n t e d e l l e t e c n i c h e g i à s v i l u p p a t e . I l t e x t m i n i n g a b i l i t a l a c o n g i u n z i o n e d i c o n c e t t i d a c a m p i d i a p p l i c a z i o n e e s t r e m a m e n t e e t e r o g e n e i . C o n l ‘ i m m e n s a q u a n t i t à d i d a t i t e s t u a l i p r e s e n t i , b a s t i p e n s a r e , s u l W o r l d W i d e W e b , e d i n c o n t i n u a c r e s c i t a a c a u s a d e l l ‘ u t i l i z z o p e r v a s i v o d i s m a r t p h o n e s e c o m p u t e r s , i c a m p i d i a p p l i c a z i o n e d e l l e a n a l i s i d i t i p o t e s t u a l e d i v e n g o n o i n n u m e r e v o l i . L ‘ a v v e n t o e l a d i f f u s i o n e d e i s o c i a l n e t w o r k s e d e l l a p r a t i c a d i m i c r o b l o g g i n g a b i l i t a l e p e r s o n e a l l a c o n d i v i s i o n e d i o p i n i o n i e s t a t i d ‘ a n i m o , c r e a n d o u n c o r p u s t e s t u a l e d i d i m e n s i o n i i n c a l c o l a b i l i a g g i o r n a t o g i o r n a l m e n t e . L e n u o v e t e c n i c h e d i S e n t i m e n t A n a l y s i s , o O p i n i o n M i n i n g , s i o c c u p a n o d i a n a l i z z a r e l o s t a t o e m o t i v o o l a t i p o l o g i a d i o p i n i o n e e s p r e s s a a l l ‘ i n t e r n o d i u n d o c u m e n t o t e s t u a l e . E s s e s o n o d i s c i p l i n e a t t r a v e r s o l e q u a l i , p e r e s e m p i o , e s t r a r r e i n d i c a t o r i d e l l o s t a t o d ‘ a n i m o d i u n i n d i v i d u o , o p p u r e d i u n i n s i e m e d i i n d i v i d u i , c r e a n d o u n a r a p p r e s e n t a z i o n e d e l l o s t a t o e m o t i v o s o c i a l e .2 L ‘ a n d a m e n t o d e l l o s t a t o e m o t i v o s o c i a l e p u ò c o n d i z i o n a r e m a c r o s c o p i c a m e n t e l ‘ e v o l v e r e d i e v e n t i g l o b a l i ? S t u d i i n c a m p o d i E c o n o m i a e F i n a n z a C o m p o r t a m e n t a l e a s s i c u r a n o u n l e g a m e f r a s t a t o e m o t i v o , c a p a c i t à n e l p r e n d e r e d e c i s i o n i e d i n d i c a t o r i e c o n o m i c i . G r a z i e a l l e t e c n i c h e d i s p o n i b i l i e d a l l a m o l e d i d a t i t e s t u a l i c o n t i n u a m e n t e a g g i o r n a t i r i g u a r d a n t i l o s t a t o d ‘ a n i m o d i m i l i o n i d i i n d i v i d u i d i v i e n e p o s s i b i l e a n a l i z z a r e t a l i c o r r e l a z i o n i . I n q u e s t o s t u d i o v i e n e c o s t r u i t o u n s i s t e m a p e r l a p r e v i s i o n e d e l l e v a r i a z i o n i d i i n d i c i d i b o r s a , b a s a n d o s i s u d a t i t e s t u a l i e s t r a t t i d a l l a p i a t t a f o r m a d i m i c r o b l o g g i n g T w i t t e r , s o t t o f o r m a d i t w e e t s p u b b l i c i ; t a l e s i s t e m a i n c l u d e t e c n i c h e d i m i g l i o r a m e n t o d e l l a p r e v i s i o n e b a s a t e s u l l o s t u d i o d i s i m i l a r i t à d e i t e s t i , c a t e g o r i z z a n d o n e i l c o n t r i b u t o e f f e t t i v o a l l a p r e v i s i o n e . N e l c a p i t o l o 1 v i e n e i l l u s t r a t a u n a p a n o r a m i c a d e l d a t a m i n i n g e d e l t e x t m i n i n g , f o r n e n d o u n d e t t a g l i a t o s t u d i o d e i p i ù i m p o r t a n t i m e t o d i d i c l a s s i f i c a z i o n e . N e l c a p i t o l o 2 v i e n e a f f r o n t a t a l a d i s c i p l i n a e m e r g e n t e d e l l a s e n t i m e n t a n a l y s i s , i l l u s t r a n d o n e c a r a t t e r i s t i c h e p r i n c i p a l i , a p p l i c a z i o n i e m e t o d i ; v i e n e p o i a n a l i z z a t o n e l d e t t a g l i o l o s t u d i o d i B o l l e n [ 4 6 ] , c h e s f r u t t a l a s e n t i m e n t a n a l y s i s p e r e f f e t t u a r e u n a p r e v i s i o n e d e l l ‘ i n d i c e D o w J o n e s I n d u s t r i a l A v e r a g e d i c h i u s u r a , s u l l ‘ a n n o 2 0 0 8 . N e l c a p i t o l o 3 v e n g o n o d e s c r i t t i g l i s t r u m e n t i u t i l i z z a t i p e r l a c o s t r u z i o n e e d i l t e s t i n g d e l s i s t e m a p r o p o s t o . N e l c a p i t o l o 4 v i e n e p r e s e n t a t a l ‘ i d e a f u l c r o d e l l a t e s i , r i g u a r d a n t e l a c o s t r u z i o n e d i u n m o d e l l o d e i d a t i a d a t t o a l l a p r e v i s i o n e , n o n c h è d i t e c n i c h e m i g l i o r a t i v e c h e p e r m e t t o n o u n i n c r e m e n t o n e l l ‘ a c c u r a t e z z a r i s p e t t o a m e t o d i d i c l a s s i f i c a z i o n e s t a n d a r d . N e l c a p i t o l o 5 v i e n e i l l u s t r a t a l ‘ a r c h i t e t t u r a i m p l e m e n t a t i v a d e l s i s t e m a u t i l i z z a t o . I l c a p i t o l o 6 m o s t r a i r i s u l t a t i o t t e n u t i n e i v a r i t e s t d e l s i s t e m a , a n a l i z z a n d o n e l d e t t a g l i o o g n i m o d e l l o p e r f o r m a n t e o t t e n u t o .
3
C a p i t o l o 1
T e x t M i n i n g c o m e m e t o d o m u l t i d i s c i p l i n a r e
1 . 1 D a t a M i n i n g
I l D a t a M i n i n g p u ò e s s e r e d e f i n i t o c o m e i l p r o c e s s o d i e s t r a z i o n e d i i n f o r m a z i o n i i m p l i c i t e , p r e c e d e n t e m e n t e s c o n o s c i u t e e p o t e n z i a l m e n t e u t i l i , d a i d a t i ; o a n c o r a , c o m e u n p r o c e d i m e n t o d i e s p l o r a z i o n e e d a n a l i s i , p e r m e z z o d i s i s t e m i a u t o m a t i c i e s e m i - a u t o m a t i c i , d i g r a n d i q u a n t i t à d i d a t i a l f i n e d i s c o p r i r e p a t t e r n s i g n i f i c a t i v i . Q u e s t a d i s c i p l i n a n a s c e p e r s o p p e r i r e a i l i m i t i d e l l e t r a d i z i o n a l i t e c n i c h e d i a n a l i s i , c h e f a l l i s c o n o s u l t r a t t a m e n t o d i e l e v a t e q u a n t i t à d i d a t i e t e r o g e n e i , c a r a t t e r i z z a t i d a d i m e n s i o n a l i t à a l t e ; m o l t e d e l l e i n f o r m a z i o n i p r e s e n t i s u i d a t i n o n s o n o d i r e t t a m e n t e e v i d e n t i e l e a n a l i s i g u i d a t e d a g l i u o m i n i p o s s o n o r i c h i e d e r e s e t t i m a n e p e r s c o p r i r e i n d i c a z i o n i u t i l i . T i p i c a m e n t e , l e a t t i v i t à d i u n s i s t e m a d i d a t a m i n i n g s o n o d i d u e t i p o l o g i e : p r e d i z i o n e d i v a r i a b i l i , c h e c o n s i s t e n e l l ‘ u t i l i z z a r e a l c u n e v a r i a b i l i p e r p r e d i r e i l v a l o r e i n c o g n i t o o f u t u r o d i a l t r e v a r i a b i l i ; d e s c r i z i o n e , i n t e s a c o m e i l p r o c e d i m e n t o d i i d e n t i f i c a z i o n e d i p a t t e r n i n t e r p r e t a b i l i d a l l ‘ u o m o i n g r a d o d i d e s c r i v e r e i d a t i . U n p a t t e r n è u n a r a p p r e s e n t a z i o n e s i n t e t i c a e r i c c a d i s e m a n t i c a d i u n i n s i e m e d i d a t i ; e s s o e s p r i m e , i n g e n e r e , u n m o d e l l o r i c o r r e n t e n e i d a t i s t e s s i , m a p u ò a n c h e e s p r i m e r e u n m o d e l l o e c c e z i o n a l e . U n p a t t e r n d e v e e s s e r e : V a l i d o s u i d a t i c o n u n c e r t o g r a d o d i c o n f i d e n z a C o m p r e n s i b i l e d a l p u n t o d i v i s t a s i n t a t t i c o e s e m a n t i c o , a f f i n c h é l ‗ u t e n t e l o p o s s a i n t e r p r e t a r e P r e c e d e n t e m e n t e s c o n o s c i u t o e p o t e n z i a l m e n t e u t i l e , a f f i n c h é l ‘ u t e n t e p o s s a i n t r a p r e n d e r e a z i o n i d i c o n s e g u e n z a I l t i p i c o p r o c e s s o d i e s t r a z i o n e d i c o n o s c e n z a è r a f f i g u r a t o i n f i g u r a 1 , t r a t t a d a [ 1 ] .4 F i g u r a 1 : P r o c e s s o d i e s t r a z i o n e d i c o n o s c e n z a I d a t i D a t a r a p p r e s e n t a n o l a c o n o s c e n z a g l o b a l e s u l d o m i n i o a p p l i c a t i v o ; s u d i e s s i v i e n e e f f e t t u a t a u n a s e l e z i o n e ( S e l e c t i o n ) f o c a l i z z a n d o s i s u d i u n s o t t o i n s i e m e s i g n i f i c a t i v o d e i d a t i , o t t e n e n d o T a r g e t D a t e . Q u e s t i v e n g o n o p o i s o t t o p o s t i a d u n a f a s e d i P r e p r o c e s s i n g o p r e p r o c e s s a m e n t o : i n q u e s t o s t e p è u t i l e r i m u o v e r e d a t i r u m o r e p r e s e n t e s u i T a r g e t D a t e , g e s t i r e l a m a n c a n z a d i d a t e e p i ù i n g e n e r a l e p u l i r e e f i l t r a r e q u e l l i d i s p o n i b i l i . I d a t i p r e p r o c e s s a t i o t t e n u t i , P r e p r o c e s s e d D a t a , v e n g o n o t r a s f o r m a t i a l l o s c o p o d i r i d u r r e i l n u m e r o d i v a r i a b i l i d a c o n s i d e r a r e n e l l e c o n s e g u e n t i a n a l i s i . I d a t i t r a s f o r m a t i o t t e n u t i , T r a n s f o r m e d D a t a , v e n g o n o s o t t o p o s t i a l p r o c e s s o d i D a t a M i n i n g v e r o e p r o p r i o , s e l e z i o n a n d o u n a t i p o l o g i a d i e s t r a z i o n e d i c o n o s c e n z a e q u i n d i u n p r e c i s o a l g o r i t m o . I P a t t e r n e s t r a t t i p o s s o n o e s s e r e c o s ì v a l u t a t i e d i n t e r p r e t a t i r i c a v a n d o l a c o n o s c e n z a K n o w l e d g e . 1 . 1 . 1 C l a s s i f i c a z i o n e L a c l a s s i f i c a z i o n e r a p p r e s e n t a u n a t i p i c a a t t i v i t à d e l D a t a M i n i n g ; e s s a r a p p r e s e n t a i l c o m p i t o d i a s s e g n a r e o g g e t t i a d u n a f r a d i v e r s e p r e d e f i n i t e c a t e g o r i e , d e t t e c l a s s i . L ‘ i n p u t a l
5 p r o c e s s o d i c l a s s i f i c a z i o n e è u n i n s i e m e d i r e c o r d s ; o g n u n o d i q u e s t i r e c o r d s , d e t t o a n c h e i s t a n z a o e s e m p i o , è c a r a t t e r i z z a t o d a u n a t u p l a , d o v e è l ‘ i n s i e m e d e g l i a t t r i b u t i e d è u n a t t r i b u t o s p e c i a l e , d e t t o a t t r i b u t o ( e t i c h e t t a ) c l a s s e . L ‘ a t t r i b u t o c l a s s e , a n c h e d e t t o c a t e g o r i a o a t t r i b u t o t a r g e t , a d i f f e r e n z a d e g l i a l t r i a t t r i b u t i d e l s e t , d e v e a s s u m e r e u n i c a m e n t e v a l o r i d i s c r e t i : c i ò d i s t i n g u e l a c l a s s i f i c a z i o n e d a l l a r e g r e s s i o n e , d o v e l a p r e d i z i o n e v i e n e e f f e t t u a t a s u d i u n a a v a l o r i c o n t i n u i . F o r m a l m e n t e , i l p r o c e s s o d i c l a s s i f i c a z i o n e p r e v e d e l a c o s t r u z i o n e d i u n a f u n z i o n e t a r g e t , c h e a s s o c i a d o g n i i n s i e m e d i a t t r i b u t i a d u n a d e l l e p r e d e f i n i t e c l a s s i . L a f u n z i o n e t a r g e t è a n c h e c h i a m a t a , p i ù i n f o r m a l m e n t e , m o d e l l o d i c l a s s i f i c a z i o n e . U n m o d e l l o d i c l a s s i f i c a z i o n e p u ò e s s e r e u t i l i z z a t o p e r p r e d i r e i l v a l o r e d e l l ‘ a t t r i b u t o c l a s s e d i i s t a n z e p e r i l q u a l e l a c l a s s e d i a p p a r t e n e n z a è s c o n o s c i u t a . N e l l e p r o s s i m e s e z i o n i i l p r o c e s s o d i c l a s s i f i c a z i o n e v i e n e i l l u s t r a t o e d a p p r o f o n d i t o p e r m o d e l l i d i c l a s s i f i c a z i o n e c h e s i o c c u p a n o d i a t t r i b u t i c l a s s e b i n a r i o n o m i n a l i .
6 1 . 1 . 2 A p p r o c c i o g e n e r a l e a l l a r i s o l u z i o n e d i u n p r o b l e m a d i c l a s s i f i c a z i o n e U n a t e c n i c a d i c l a s s i f i c a z i o n e ( o c l a s s i f i c a t o r e ) è u n a p p r o c c i o s i s t e m a t i c o v o l t o a l l a c o s t r u z i o n e d i m o d e l l i d i c l a s s i f i c a z i o n e a p a r t i r e d a u n d a t a s e t d i i n p u t ; e s e m p i i n c l u d o n o c l a s s i f i c a t o r i a d a l b e r i d e c i s i o n a l i , a r e g o l e , u t i l i z z a n t i r e t i n e u r a l i , s u p p o r t v e c t o r m a c h i n e s e c l a s s i f i c a t o r i n a i v e B a y e s . O g n i t e c n i c a i n c o r p o r a u n a l g o r i t m o d i l e a r n i n g i l c u i o b i e t t i v o è q u e l l o d i i d e n t i f i c a r e u n m o d e l l o d i c l a s s i f i c a z i o n e c h e s p i e g h i n e l l a m a n i e r a m i g l i o r e l a r e l a z i o n e f r a i l s e t d e g l i a t t r i b u t i e l a c l a s s e d e i d a t i i n i n p u t . I l m o d e l l o c o s ì g e n e r a t o h a c o m e s c o p o q u i n d i q u e l l o d i e s p r i m e r e c o r r e t t a m e n t e l e r e l a z i o n i d e i d a t i i n i n p u t c o s ì c o m e d i p r e d i r e c o r r e t t a m e n t e l a c l a s s e d i a p p a r t e n e n z a d i i s t a n z e m a i e s a m i n a t e i n p r e c e d e n z a . U n a p p r o c c i o g e n e r a l e a l l a r i s o l u z i o n e d i u n p r o b l e m a d i c l a s s i f i c a z i o n e è m o s t r a t o i n f i g u r a 2 . F i g u r a 2 : A p p r o c c i o g e n e r a l e a d u n p r o b l e m a d i c l a s s i f i c a z i o n e L ‘ i n s i e m e d i t r a i n i n g è c o m p o s t o d a i s t a n z e p e r l e q u a l i è c o n o s c i u t a l a c l a s s e d i a p p a r t e n e n z a : e s s o r a p p r e s e n t a u n a e n t i t à f o n d a m e n t a l e , p o i c h è è u t i l i z z a t o p e r p r o d u r r e i l
7 m o d e l l o d i c l a s s i f i c a z i o n e . T a l e m o d e l l o v i e n e i n s e g u i t o a p p l i c a t o s u d i u n i n s i e m e d e t t o d i t e s t , c h e c o n s i s t e d i i s t a n z e p e r l e q u a l i l ‘ a t t r i b u t o c l a s s e è s c o n o s c i u t o a l m o d e l l o d i c l a s s i f i c a z i o n e , i l q u a l e p r o d u c e , p e r o g n u n a d i t a l i i s t a n z e , l a c l a s s e d i a p p a r t e n e n z a p r e d e t t a . L a v a l u t a z i o n e d e l l e p e r f o r m a n c e d i u n m o d e l l o d i c l a s s i f i c a z i o n e è b a s a t a f o n d a m e n t a l m e n t e s u l c o n t e g g i o d e l l e i s t a n z e d i t e s t p e r l e q u a l i l ‘ a t t r i b u t o c l a s s e p r e d e t t o s i r i v e l a c o r r e t t o e p e r l e q u a l i i n v e c e l a p r e v i s i o n e r i s u l t a e r r a t a . Q u e s t i c o n t e g g i v e n g o n o r a c c o l t i i n u n a t a b e l l a d e t t a m a t r i c e d i c o n f u s i o n e ; u n e s e m p i o d i m a t r i c e d i c o n f u s i o n e p e r u n p r o b l e m a d i c l a s s i f i c a z i o n e b i n a r i a è r i p o r t a t o i n t a b e l l a 1 . C l a s s e P r e d e t t a P o s i t i v e N e g a t i v e C l a s s e R e a l e P o s i t i v e N e g a t i v e T a b e l l a 1 : M a t r i c e d i c o n f u s i o n e p e r u n p r o b l e m a d i c l a s s i f i c a z i o n e b i n a r i a L ‘ e l e m e n t o , T r u e P o s i t i v e , d e n o t a g l i e l e m e n t i d i c l a s s e P o s i t i v e c l a s s i f i c a t i c o r r e t t a m e n t e ; l ‘ e l e m e n t o , T r u e N e g a t i v e , r a p p r e s e n t a g l i e l e m e n t i d i c l a s s e N e g a t i v e c l a s s i f i c a t i c o r r e t t a m e n t e . L ‘ e l e m e n t o , F a l s e P o s i t i v e , r a p p r e s e n t a i n v e c e g l i e l e m e n t i d i c l a s s e N e g a t i v e c l a s s i f i c a t i e r r o n e a m e n t e c o m e d i c l a s s e P o s i t i v e ; l ‘ e l e m e n t o , F a l s e N e g a t i v e , d u a l m e n t e , r a p p r e s e n t a g l i e l e m e n t i d i c l a s s e P o s i t i v e c l a s s i f i c a t i e r r o n e a m e n t e c o m e d i c l a s s e N e g a t i v e . B a s a n d o s i s u g l i e l e m e n t i d i u n a m a t r i c e d i c o n f u s i o n e , i l n u m e r o t o t a l e d i p r e d i z i o n i c o r r e t t e e f f e t t u a t e d a l m o d e l l o è m e n t r e l e p r e d i z i o n i s c o r r e t t e e f f e t t u a t e a m m o n t a n o a . L a m a t r i c e d i c o n f u s i o n e r i p o r t a l e i n f o r m a z i o n i n e c e s s a r i e a l f i n e d i v a l u t a r e l e p e r f o r m a n c e d i u n m o d e l l o d i c l a s s i f i c a z i o n e ; d i v i e n e c o m u n q u e l a d e f i n i z i o n e d i i n d i c i n u m e r i c i s i n g o l i i n g r a d o d i r i a s s u m e r e t a l e c o n t e n u t o
8 i n f o r m a t i v o , d i m o d o d a r e n d e r e l a c o m p a r a z i o n e d e l l e p e r f o r m a n c e d i m o l t e p l i c i m o d e l l i p i ù i m m e d i a t a e c o n v e n i e n t e . I n t a l s e n s o , u n a d e l l e m e t r i c h e d i v a l u t a z i o n e d e l m o d e l l o a v a l o r e s i n g o l o p i ù u t i l i z z a t a è l ‘ a c c u r a t e z z a , d e f i n i t a c o m e i l r a p p o r t o f r a i l n u m e r o d e l l e p r e d i z i o n i c o r r e t t e e i l n u m e r o t o t a l e d i p r e d i z i o n i e f f e t t u a t e . I n m a n i e r a e q u i v a l e n t e , l e i n f o r m a z i o n i c o n t e n u t e i n u n a m a t r i c e d i c o n f u s i o n e p o s s o n o e s s e r e s i n t e t i z z a t e u t i l i z z a n d o c o m e m e t r i c a l a f r e q u e n z a d e l l ‘ e r r o r e , d e f i n i t a c o m e i l r a p p o r t o f r a i l n u m e r o d i p r e d i z i o n i s b a g l i a t e e i l n u m e r o t o t a l e d i p r e d i z i o n i e f f e t t u a t e . L ‘ a c c u r a t e z z a n o n r a p p r e s e n t a u n a m e t r i c a a d e g u a t a d i s i n t e s i d e l l e p e r f o r m a n c e n e l c a s o i n c u i l e c l a s s i c o n t e n g a n o u n n u m e r o f o r t e m e n t e d i v e r s o d i r e c o r d ; n e l c a s o d i p r o b l e m i d i c l a s s i f i c a z i o n e b i n a r i a l a c l a s s e l a c l a s s e p i ù ― r a r a ‖ , o s s i a c h e c o n t i e n e m e n o r e c o r d , è a n c h e c h i a m a t a c l a s s e P o s i t i v a , m e n t r e l a c l a s s e c h e i n c l u d e l a m a g g i o r a n z a d e i r e c o r d è c h i a m a t a c l a s s e N e g a t i v a . I n t a l c o n t e s t o v e n g o n o i n t r o d o t t e l e m i s u r e d i p r e c i s i o n , c h e m i s u r a l a f r a z i o n e d i r e c o r d r i s u l t a t i e f f e t t i v a m e n t e p o s i t i v i t r a t u t t i q u e l l i c h e e r a n o s t a t i c l a s s i f i c a t i c o m e t a l i , e r e c a l l , c h e m i s u r a l a f r a z i o n e d i r e c o r d p o s i t i v i c o r r e t t a m e n t e c l a s s i f i c a t i .
9 V a l o r i e l e v a t i d i p r e c i s i o n i n d i c a n o c h e p o c h i r e c o r d d e l l a c l a s s e n e g a t i v a s o n o s t a t i e r r o n e a m e n t e c l a s s i f i c a t i c o m e p o s i t i v i ; m e n t r e i n v e c e v a l o r i e l e v a t i d i r e c a l l i n d i c a n o c h e p o c h i r e c o r d d e l l a c l a s s e p o s i t i v a s o n o s t a t i e r r o n e a m e n t e c l a s s i f i c a t i c o m e n e g a t i v i . U n a m e t r i c a c h e r i a s s u m e e d u n i f i c a i v a l o r i d i p r e c i s i o n e d i r e c a l l è d e n o m i n a t a F - m e a s u r e ; e s s a r a p p r e s e n t a l a m e d i a a r m o n i c a t r a p r e c i s i o n e r e c a l l : l a m e d i a a r m o n i c a t r a d u e n u m e r i e t e n d e a e s s e r e v i c i n a a l p i ù p i c c o l o d e i d u e n u m e r i . Q u i n d i s e l a m e d i a a r m o n i c a è e l e v a t a s i g n i f i c a c h e s i a p r e c i s i o n , s i a r e c a l l l o s o n o . 1 . 1 . 3 T e c n i c h e d i c l a s s i f i c a z i o n e D i s e g u i t o u n a l i s t a d e l l e p i ù r i l e v a n t i t e c n i c h e d i c l a s s i f i c a z i o n e [ 1 1 ] . A l b e r i d e c i s i o n a l i o D e c i s i o n t r e e s . E s s i r a p p r e s e n t a n o u n a d e l l e t e c n i c h e d i c l a s s i f i c a z i o n e m a g g i o r m e n t e u t i l i z z a t e c h e p e r m e t t e d i r a p p r e s e n t a r e c o n u n a s t r u t t u r a a d a l b e r o g e r a r c h i c a u n i n s i e m e d i r e g o l e ; t a l e s t r u t t u r a c o n s i s t e d i u n i n s i e m e d i n o d i , c o r r e l a t i d a a r c h i ( r a m i ) o r i e n t a t i e d " e t i c h e t t a t i ― d i c l a s s i f i c a z i o n e . L ‘ a l b e r o p o s s i e d e 3 d i v e r s e t i p o l o g i e d i n o d i : 1 . u n n o d o r a d i c e , i l q u a l e è c a r a t t e r i z z a t o d a n e s s u n a r c o e n t r a n t e e z e r o o p i ù a r c h i u s c e n t i ; 2 . n o d i i n t e r n i , i q u a l i s o n o c a r a t t e r i z z a t i d a p r e c i s a m e n t e u n a r c o e n t r a n t e e 2 o p i ù a r c h i u s c e n t i ; 3 . f o g l i e o n o d i t e r m i n a l i , o g n u n o d e i q u a l i p o s s i e d e p r e c i s a m e n t e u n a r c o e n t r a n t e e z e r o a r c h i u s c e n t i .
10 I n u n a l b e r o d e c i s i o n a l e , o g n i n o d o t e r m i n a l e v i e n e a s s o c i a t o a d u n a c l a s s e d e f i n i t a . I n o d i n o n d i t i p o t e r m i n a l e , o s s i a i l n o d o r a d i c e e g l i a l t r i n o d i i n t e r n i a l l ‘ a l b e r o , c o n t e n g o n o c o n d i z i o n i d i t e s t s u g l i a t t r i b u t i , a l f i n e d i s e p a r a r e i s t a n z e a v e n t i c a r a t t e r i s t i c h e d i f f e r e n t i . U n a v o l t a o t t e n u t o l ‘ a l b e r o , i l p r o c e d i m e n t o d i c l a s s i f i c a z i o n e d i v i e n e s e m p l i c e e d i m m e d i a t o ; p a r t e n d o d a l n o d o r a d i c e s i a p p l i c a n o l e c o n d i z i o n i d i t e s t r e l a t i v e a d o g n i n o d o e s i s e g u o n o g l i a r c h i c o r r i s p o n d e n t i a l r i s u l t a t o d i t a l i t e s t . Q u e s t o p o r t a l ‘ e s e c u z i o n e a l r a g g i u n g i m e n t o d i u n n u o v o n o d o : n e l c a s o s i a u n n o d o i n t e r n o a l l ‘ a l b e r o , s i v a l u t e r à u n a n u o v a c o n d i z i o n e d i t e s t , p r o c e d e n d o c o m e g i à d e t t o ; n e l c a s o s i a u n n o d o t e r m i n a l e l a c l a s s e a s s o c i a t a a l n o d o s t e s s o v i e n e a s s o c i a t a a l l ‘ i s t a n z a d a c l a s s i f i c a r e . C l a s s i f i c a t o r i b a s a t i s u r e g o l e . C l a s s i f i c a n o i r e c o r d u t i l i z z a n d o i n s i e m i d i r e g o l e d e l t i p o ― i f - t h e n ‖ ; o g n i r e g o l a a s s u m e l a f o r m a d i ( C o n d i z i o n e ) - > y , d o v e C o n d i z i o n e è u n a c o n g i u n z i o n e d i p r e d i c a t i l o g i c i s u g l i a t t r i b u t i d e l l ‘ i s t a n z a d a c l a s s i f i c a r e , m e n t r e y è l ‘ e t i c h e t t a d i c l a s s e c h e n e c o n s e g u e ; l a C o n d i z i o n e v i e n e a n c h e d e t t a a n t e c e d e n t e d e l l a r e g o l a , m e n t r e l ‘ e t i c h e t t a d e l l a c l a s s e y è d e t t a a n c h e c o n s e g u e n t e . I l m o d e l l o d i c l a s s i f i c a z i o n e v i e n e q u i n d i c o s t r u i t o d a l l a i d e n t i f i c a z i o n e d i u n a s e r i e d i r e g o l e . M e t r i c h e d i v a l u t a z i o n e d i u n c l a s s i f i c a t o r e b a s a t o s u r e g o l e s o n o l a C o p e r t u r a , c h e r a p p r e s e n t a l a f r a z i o n e d e i r e c o r d c h e s o d d i s f a n o l ‘ a n t e c e d e n t e d e l l a r e g o l a , e l ‘ A c c u r a t e z z a , d e f i n i t a i n t e r m i n i d e l l a f r a z i o n e d e i r e c o r d c h e , s o d d i s f a n d o l ‘ a n t e c e d e n t e , s o d d i s f a n o a n c h e i l c o n s e g u e n t e d e l l a r e g o l a . C l a s s i f i c a t o r i N e a r e s t N e i g h b o r . C l a s s i f i c a n o l e i s t a n z e i n b a s e a l l a l o r o s o m i g l i a n z a c o n e l e m e n t i d e l t r a i n i n g s e t ; s o n o d e t t i d i t i p o l a z y , o s s i a p i g r o , p o i c h è n o n c o s t r u i s c o n o m o d e l l i : e s s i u t i l i z z a n o i k p u n t i ― p i ù v i c i n i ‖ ( n e a r e s t n e i g h b o r s ) p e r e f f e t t u a r e l a c l a s s i f i c a z i o n e . E ‘ n e c e s s a r i o d e f i n i r e , o l t r e a d u n i n s i e m e d i t r a i n i n g , u n a m e t r i c a a t t r a v e r s o l a q u a l e
11 c a l c o l a r e u n a d i s t a n z a f r a i r e c o r d s e d i l n u m e r o k d i i s t a n z e ― v i c i n e ‖ d a u t i l i z z a r e n e l l a c o m p a r a z i o n e . I l p r o c e s s o d i c l a s s i f i c a z i o n e p r e v e d e i l c a l c o l o i n i z i a l e d e l l a d i s t a n z a f r a l ‘ i s t a n z a d a c l a s s i f i c a r e , i n i n p u t , e d i r e c o r d p r e s e n t i n e l t r a i n i n g s e t , a t t r a v e r s o l a m e t r i c a p r e s c e l t a ; i d e n t i f i c a q u i n d i i k n e a r e s t n e i g h b o r s e d i n f i n e u t i l i z z a l e e t i c h e t t e d i c l a s s e d e i v i c i n i c o s ì i d e n t i f i c a t i p e r d e t e r m i n a r e l a c l a s s e s c o n o s c i u t a d e l l ‘ i s t a n z a i n i n p u t ( p e r e s e m p i o , s e m p l i c e m e n t e s c e g l i e n d o q u e l l a c h e c o m p a r e c o n m a g g i o r e f r e q u e n z a f r a i v i c i n i ) . C l a s s i f i c a t o r i B a y e s i a n i . R a p p r e s e n t a n o u n a p p r o c c i o p r o b a b i l i s t i c o a l l a r i s o l u z i o n e d i p r o b l e m i d i c l a s s i f i c a z i o n e . I n u n a g r a n d e q u a n t i t à d i a p p l i c a z i o n i r e a l i l a r e l a z i o n e t r a i v a l o r i a s s u n t i d a g l i a t t r i b u t i d e l l e i s t a n z e e q u e l l o d e l l a c l a s s e n o n è d e t e r m i n i s t i c a ; c i ò è d o v u t o a p o s s i b i l e r u m o r e s u i d a t i , a l l a p r e s e n z a d i c a r a t t e r i s t i c h e i n s i t e n e l f e n o m e n o m a n o n m o d e l l a t e a d o v e r e d a g l i a t t r i b u t i o p p u r e a n c o r a a d i f f i c o l t à n e l q u a n t i f i c a r e o p e r a t i v a m e n t e c e r t i a s p e t t i d e l f e n o m e n o s t e s s o . Q u e s t o i n t r o d u c e t a l v o l t a i n c e r t e z z a s u l l ‘ e s i t o d e l l a p r e v i s i o n e : i c l a s s i f i c a t o r i B a y e s i a n i m o d e l l a n o r e l a z i o n i p r o b a b i l i s t i c h e t r a g l i a t t r i b u t i e l ‘ a t t r i b u t o d i c l a s s i f i c a z i o n e p e r s u p e r a r e t a l i i n s i c u r e z z e . E s s i s i b a s a n o s u l t e o r e m a d i B a y e s d e s c r i t t o i n s e g u i t o , a d a t t a n d o l o a l p r o b l e m a d e l l a c l a s s i f i c a z i o n e . S i a d a t o i l v e t t o r e 1 c h e d e s c r i v e i l s e t d i a t t r i b u t i e s i a l a v a r i a b i l e d i c l a s s e : s e è l e g a t a i n m o d o n o n d e t e r m i n i s t i c o a i v a l o r i a s s u n t i d a p o s s i a m o t r a t t a r e l e d u e v a r i a b i l i c o m e v a r i a b i l i c a s u a l i e c a t t u r a r e l e l o r o r e l a z i o n i p r o b a b i l i s t i c h e u t i l i z z a n d o , o s s i a l a p r o b a b i l i t à c h e s i v e r i f i c h i l ‘ e v e n t o s a p e n d o c h e s i è v e r i f i c a t o l ‘ e v e n t o . D u r a n t e l a f a s e d i t r a i n i n g s i i m p a r a n o i l e g a m i p r o b a b i l i s t i c i p e r o g n i c o m b i n a z i o n e d i v a l o r i a s s u n t i d a e ; c o n o s c e n d o q u e s t e p r o b a b i l i t à , u n a i s t a n z a d i t e s t p u ò e s s e r e c l a s s i f i c a t a t r o v a n d o l a l a b e l d i c l a s s e c c h e m a s s i m i z z a l a p r o b a b i l i t à a p o s t e r i o r i C a l c o l a r e p e r o g n i p o s s i b i l e v a l o r e d i e
12 r i c h i e d e u n t r a i n i n g s e t m o l t o g r a n d e a n c h e p e r u n n u m e r o r i d o t t o d i a t t r i b u t i : i l t e o r e m a d i B a y e s è u t i l e i n q u e s t o c a s o p o i c h é p e r m e t t e d i e s p r i m e r e l a p r o b a b i l i t à a p o s t e r i o r i i n t e r m i n i d i , e c o m e s e g u e : V i s t o c h e è c o s t a n t e i n q u e s t a f o r m u l a i l p r o b l e m a d i m a s s i m i z z a r e l a p r o b a b i l i t à a p o s t e r i o r i e q u i v a l e a s c e g l i e r e i l v a l o r e d i c h e m a s s i m i z z i C l a s s i f i c a t o r i a r e t i n e u r a l i . U n a r e t e n e u r a l e a r t i f i c i a l e d e f i n i s c e u n m o d e l l o m a t e m a t i c o p e r l a s i m u l a z i o n e d i u n a r e t e d i n e u r o n i b i o l o g i c i . U n a r e t e d i n e u r o n i b i o l o g i c i è c o s t i t u i t a d a u n i n s i e m e d i c e l l u l e n e r v o s e ( i n e u r o n i ) c o l l e g a t i t r a m i t e f i b r e n e r v o s e . T a l i c l a s s i f i c a t o r i s f r u t t a n o c o m e u n i t à b a s e u n a e n t i t à d e f i n i t a c o m e n e u r o n e , i s p i r a t a a l n e u r o n e b i o l o g i c o : è i n g r a d o d i r i c e v e r e i n f o r m a z i o n i d i i n p u t e t r a s f e r i r l e a l p r o p r i o i n t e r n o ; p u ò t r a s f e r i r e l e i n f o r m a z i o n i i m m a g a z z i n a t e v e r s o l ‘ e s t e r n o ; p u ò t r a s f e r i r e e r i c e v e r e i n f o r m a z i o n i v e r s o o d a a l t r i n e u r o n i ( e q u i v a l e n t e m e n t e a l p r o c e s s o s i n a p t i c o d i t r a s f e r i m e n t o d i s e g n a l i t r a m i t e p r o c e s s o e l e t t r o c h i m i c o ) . N e l l e r e t i n e u r a l i a r t i f i c i a l i , o g n i n e u r o n e è a s s o c i a t o a d u n i n s i e m e d i p e s i , c h e r a p p r e s e n t a n o u n a m i s u r a d e l l a c o n o s c e n z a a c c u m u l a t a d a l s i n g o l o n e u r o n e ; t a l i p e s i v e n g o n o u t i l i z z a t i n e l p r o c e s s o d i c l a s s i f i c a z i o n e . I d e n t i f i c a n d o c o n i l v e t t o r e d e l l e f e a t u r e s i n i n g r e s s o a l l a r e t e , i p e s i v e n g o n o c o m b i n a t i c o n i v a l o r i a s s u n t i d a t a l e f e a t u r e s a t t r a v e r s o , p e r e s e m p i o , l a s e m p l i c e f u n z i o n e l i n e a r e . I l r i s u l t a t o d e l l a c l a s s i f i c a z i o n e s f r u t t a t a l e c o m b i n a z i o n e c o m e i n p u t d i u n a f u n z i o n e d i a t t i v a z i o n e c h e s i m u l a i l c o m p o r t a m e n t o d e l n e u r o n e p o s t s i n a p t i c o , o s s i a r i c e v e n t e l e i n f o r m a z i o n i d a i l a y e r s p r e c e d e n t i d i n e u r o n i . I l m o d e l l o d i a p p r e n d i m e n t o d i t a l i r e t i p r e v e d e d i
13 a g g i u s t a r e i p e s i a l f i n e d i r i d u r r e l ‘ e r r o r e f r a i l v a l o r e d i o u t p u t g e n e r a t o d a l l a r e t e n e u r a l e e l ‘ o u t p u t c o r r e t t o , i d e n t i f i c a t o d a u n t r a i n i n g s e t . L e r e t i n e u r a l i a d u n s o l o s t r a t o d i n e u r o n i h a n n o u n a l g o r i t m o d i a p p r e n d i m e n t o e f f i c i e n t e , m a s o n o u t i l i s o l t a n t o n e l c a s o d i d a t i l i n e a r m e n t e s e p a r a b i l i . V i c e v e r s a , l e r e t i n e u r a l i m u l t i s t r a t o p o s s o n o r a p p r e s e n t a r e f u n z i o n i n o n l i n e a r i , m a s o n o d i f f i c i l i d a a d d e s t r a r e a c a u s a d e l l ' a l t o n u m e r o d i d i m e n s i o n i d e l l o s p a z i o d e i p e s i . C l a s s i f i c a t o r i a S u p p o r t V e c t o r M a c h i n e s . I n i t a l i a n o v e n g o n o d e t t e M a c c h i n e a V e t t o r i d i S u p p o r t o , o p p u r e m a c c h i n e k e r n e l ; s o n o u n i n s i e m e d i m e t o d i d i a p p r e n d i m e n t o s u p e r v i s i o n a t o p e r l a r e g r e s s i o n e e l a c l a s s i f i c a z i o n e d i p a t t e r n , s v i l u p p a t i n e g l i a n n i ' 9 0 d a V l a d i m i r V a p n i k [ 1 2 ] e d i l s u o t e a m p r e s s o i l a b o r a t o r i B e l l A T & T . I m o d e l l i S V M f u r o n o o r i g i n a r i a m e n t e d e f i n i t i p e r l a c l a s s i f i c a z i o n e d i c l a s s i d i o g g e t t i l i n e r a m e n t e s e p a r a b i l i . P e r o g n i g r u p p o d i o g g e t t i d i v i s i i n d u e c l a s s i u n a S V M i d e n t i f i c a l ‘ i p e r p i a n o a v e n t e i l m a s s i m o m a r g i n e d i s e p a r a z i o n e . F i g u r a 3 : E s e m p i o d i s e p a r a z i o n e c l a s s i c o n S V M I n f i g u r a 3 l ‘ i p e r p i a n o d e f i n i s c e i l b o r d o d e l l a c l a s s e i c u i o g g e t t i s o n o r a p p r e s e n t a t i d a i ― + 1 ‖ m e n t r e l ‘ i p e r p i a n o q u e l l o d e g l i o g g e t t i r a p p r e s e n t a t i d a i ― -1 ‖ . E ‘ q u i n d i p o s s i b i l e n o t a r e c h e d u e o g g e t t i d e l l a c l a s s e ― + 1 ‖ s e r v o n o a d e f i n i r e ( s o n o q u e l l i c e r c h i a t i )
14 e n e s e r v o n o t r e d e l l a c l a s s e ― - 1 ‖ p e r d e f i n i r e ; q u e s t i o g g e t t i v e n g o n o c h i a m a t i ― s u p p o r t v e c t o r s ‖ , q u i n d i i l p r o b l e m a d i i d e n t i f i c a r e l a m i g l i o r s e p a r a z i o n e t r a l e d u e c l a s s i è r i s o l t o i n d i v i d u a n d o i v e t t o r i d i s u p p o r t o c h e d e t e r m i n a n o i l m a s s i m o m a r g i n e t r a i d u e i p e r p i a n i . O v v i a m e n t e l e S V M p o s s o n o e s s e r e u s a t e p e r s e p a r a r e c l a s s i c h e n o n p o t r e b b e r o e s s e r e s e p a r a t e c o n u n c l a s s i f i c a t o r e l i n e a r e , a l t r i m e n t i l a l o r o a p p l i c a z i o n e a c a s i d i r e a l e i n t e r e s s e n o n s a r e b b e p o s s i b i l e . I n q u e s t i c a s i l e c o o r d i n a t e d e g l i o g g e t t i s o n o m a p p a t e i n u n o s p a z i o d e t t o ― f e a t u r e s p a c e ‖ u t i l i z z a n d o f u n z i o n i n o n l i n e a r i , c h i a m a t e ― f e a t u r e f u n c t i o n ‖ [ 1 4 ] . I l f e a t u r e s p a c e è u n o s p a z i o f o r t e m e n t e m u l t i d i m e n s i o n a l e i n c u i l e d u e c l a s s i p o s s o n o e s s e r e s e p a r a t e c o n u n c l a s s i f i c a t o r e l i n e a r e , c o m e m o s t r a t o c o n u n s e m p l i c e e s e m p i o g r a f i c o i n f i g u r a 4 . F i g u r a 4 : T r a s f o r m a z i o n e i n f e a t u r e s p a c e Q u e s t o m e t o d o , c h e s t a a l l a b a s e d e l l a t e o r i a d e l l e S V M , c o n s i s t e n e l m a p p a r e i d a t i i n i z i a l i i n u n o s p a z i o d i d i m e n s i o n e s u p e r i o r e . P r e s u p p o n e n d o q u i n d i , p e r l a m a p p a s i u t i l i z z a u n a f u n z i o n e : C o m e s i p u ò n o t a r e d a l l ‘ e s e m p i o i n f i g u r a 4 , l e d u e c l a s s i n e l l o s p a z i o d i i n p u t n o n s o n o l i n e a r m e n t e s e p a r a b i l i , m a a t t r a v e r s o l a f u n z i o n e i d a t i v e n g o n o m a p p a t i i n u n o s p a z i o i n c u i d i v e n t a n o l i n e a r m e n t e s e p a r a b i l i e i n c u i s a r à p o s s i b i l e t r o v a r e u n i p e r p i a n o
15 c h e l i s e p a r i . L a f u n z i o n e c o m b i n a q u i n d i l o s p a z i o i n i z i a l e ( l e c a r a t t e r i s t i c h e o r i g i n a l i d e g l i o g g e t t i ) n e l l o s p a z i o d e l l e f e a t u r e s c h e p o t r e b b e i n l i n e a d i p r i n c i p i o a v e r e a n c h e d i m e n s i o n e i n f i n i t a . A c a u s a d e l f a t t o c h e q u e s t o s p a z i o h a m o l t e d i m e n s i o n i n o n s a r e b b e p r a t i c o u t i l i z z a r e u n a f u n z i o n e g e n e r i c a p e r t r o v a r e l ‘ i p e r p i a n o d i s e p a r a z i o n e , q u i n d i v e n g o n o u s a t e d e l l e f u n z i o n i d e t t e ― k e r n e l ‖ e s i i d e n t i f i c a l a f u n z i o n e t r a m i t e u n a c o m b i n a z i o n e d i f u n z i o n i d i k e r n e l . U n a e f f i c a c e o t t i m i z z a z i o n e d e i k e r n e l S V M è r a p p r e s e n t a t a d a l l ‘ a l g o r i t m o S M O ( S e q u e n t i a l M i n i m a l O p t i m i z a t i o n ) , c h e s i p r o p o n e d i r i s o l v e r e i p r o b l e m i d i o t t i m i z z a z i o n e p r e s e n t i d u r a n t e i l p r o c e s s o d i t r a i n i n g d e g l i S V M ; c i ò v i e n e f a t t o s u d d i v i d e n d o i p r o b l e m i i n u n a s e r i e d i s o t t o p r o b l e m i d i d i m e n s i o n e m i n o r e p o s s i b i l e , i q u a l i v e n g o n o p o i r i s o l t i i n m a n i e r a a n a l i t i c a .
1 . 2 T e x t M i n i n g
N e l c a m p o d e l D a t a M i n i n g g l i u l t i m i a n n i s o n o s t a t i d e n o t a t i d a i n g e n t i m i g l i o r a m e n t i n e l l e t e c n i c h e e n e i r i s u l t a t i , d o v u t i a g l i a v a n z a m e n t i t e c n o l o g i c i s i a p e r l ‘ h a r d w a r e c h e p e r i l s o f t w a r e , c a u s a n t i l a g e n e r a z i o n e e l a c o n s e g u e n t e d i s p o n i b i l i t à d i d i v e r s i e d e l e v a t e q u a n t i t à d i d a t i . Q u e s t o è p a r t i c o l a r m e n t e v e r o p e r q u a n t o r i g u a r d a i d a t i t e s t u a l i , p e r l a g e n e r a z i o n e d e i q u a l i l o s v i l u p p o d i p i a t t a f o r m e h a r d w a r e e s o f t w a r e v o l t e a l s o s t e n i m e n t o d i u n r a p i d o e p o r t a b i l e a c c e s s o a l w e b e d a i s o c i a l n e t w o r k s h a r e s o p o s s i b i l e u n a r a p i d a c r e a z i o n e d i a r c h i v i d i g i t a l i c o n t e n e n t i u n a g r a n d i s s i m a v a r i e t à d i d a t i . I n p a r t i c o l a r e , i l w e b f u n g e d a t e c n o l o g i a a b i l i t a n t e l a c r e a z i o n e d i c o n t e n u t o t e s t u a l e d a p a r t e d i u n a v a r i e t à d i t i p o l o g i e d i u t e n z a m o l t o v a s t a , i n u n a f o r m a s e m p l i c e d a i m m a g a z z i n a r e e p r o c e s s a r e . L a c r e s c i t a i n t e r m i n i d i d i s p o n i b i l i t à d i t a l i d a t i t e s t u a l i , r e s i d i s p o n i b i l i d a d i v e r s e a p p l i c a z i o n i , h a c r e a t o i l b i s o g n o d i u n a p r o g e t t a z i o n e p i ù a v a n z a t a d e g l i a l g o r i t m i d i a n a l i s i d e g l i16 s t e s s i d a t i , d a i q u a l i o c c o r r e e s t r a r r e p a t t e r n i n t e r e s s a n t i i n m a n i e r a d i n a m i c a e s c a l a b i l e . D a t i d i t i p o s t r u t t u r a t o v e n g o n o s o l i t a m e n t e e s t o r i c a m e n t e o r g a n i z z a t i e c o n t e n u t i a l l ‘ i n t e r n o d i d a t a b a s e ; p e r q u a n t o r i g u a r d a i l t e s t o , i n v e c e , i d a t i v e n g o n o t i p i c a m e n t e s f r u t t a t i a t t r a v e r s o m o t o r i d i r i c e r c a , a c a u s a d e l l a m a n c a n z a d i s t r u t t u r e a d e g u a t e [ 5 ] . U n m o t o r e d i r i c e r c a a b i l i t a l ‘ u t e n t e a l r e c u p e r o d i i n f o r m a z i o n i u t i l i d a u n a c o l l e z i o n e d i d a t i , i n s e r e n d o u n a q u e r y b a s a t a s u d i u n a ( o p i ù ) p a r o l a c h i a v e ; c o m e m i g l i o r a r e l ‘ e f f i c i e n z a e l a e f f i c a c i a d i u n m o t o r e d i r i c e r c a è s t a t o u n t e m a c e n t r a l e d i r i c e r c a , n e l c a m p o d e l l ‘ I n f o r m a t i o n R e t r i e v a l [ 1 3 , 3 ] . L a r i c e r c a n e l c a m p o d e l r e c u p e r o d i i n f o r m a z i o n i è s t a t a t r a d i z i o n a l m e n t e f o c a l i z z a t a p i ù s u l f a c i l i t a r e l ‘ a c c e s s o a l l e i n f o r m a z i o n i s t e s s e , p i u t t o s t o c h e a l l ‘ a n a l i s i d e i d a t i a l f i n e d i s c o p r i r e p a t t e r n s i n t e r e s s a n t i , q u a l e è l ‘ o b i e t t i v o p r i m a r i o d e l l a d i s c i p l i n a d e l t e x t m i n i n g . L ‘ o b i e t t i v o , i n v e c e , d e r i v a n t e d a l l a n e c e s s i t à d i a c c e d e r e a d u n a i n f o r m a z i o n e , t r a d i z i o n a l m e n t e , è q u e l l o d i c o n n e t t e r e l ‘ i n f o r m a z i o n e e s a t t a c o n g l i u t e n t i c h e n e f a n n o r i c h i e s t a i n u n t e m p o a c c e t t a b i l e , s e n z a p o r r e a l c u n a e n f a s i s u l l a t r a s f o r m a z i o n e o s u l p r o c e s s a m e n t o d e i d a t i t e s t u a l i , o s s i a : r e c u p e r a r e c i ò c h e è s t a t o r i c h i e s t o , s e n z a a l c u n a m a n i p o l a z i o n e . I l t e x t m i n i n g , d ‘ a l t r o c a n t o , p u ò e s s e r e r i c o n o s c i u t a c o m e u n a p r a t i c a c h e s i c o l l o c a o l t r e a l s e m p l i c e a c c e s s o d e i d a t i , i n c o r p o r a n d o c o m e s c o p o p r i n c i p e q u e l l o d i a n a l i z z a r e , c o n c e n t r a r e e d a p p r e n d e r e i n f o r m a z i o n i e f a c i l i t a r e c o s ì l a f a s e d e c i s i o n a l e , l e g a t a a t a l i i n f o r m a z i o n i , d e l l ‘ u t e n z a i n t e r e s s a t a . S e q u i n d i u n t r a d i z i o n a l e m o t o r e d i r i c e r c a s i o c c u p a d i e f f e t t u a r e a s s o c i a z i o n i t r i v i a l i f r a c h i a v i d i r i c e r c a e p o s s i b i l i r i s u l t a t i , c o n i l t e x t m i n i n g s i ‗ s c a v a ‘ ( m i n i n g ) n e i d a t i t e s t u a l i a l l o s c o p o d i r i c a v a r e i n f o r m a z i o n i i m p o r t a n t i e d i i n t e r e s s e , e s t r a e n d o c o n o s c e n z a d a g r a n d i r e p o s i t o r y n o n s t r u t t u r a t e .
17 1 . 2 . 1 C a r a t t e r i s t i c h e e d i m p o r t a n z a d e i d a t i t e s t u a l i U n n u m e r o e l e v a t o d i c a r a t t e r i s t i c h e c h i a v e d i s t i n g u o n o i d a t i t e s t u a l i d a a l t r e f o r m e d i d a t i , c o m e p e r e s e m p i o q u e l l i r e l a z i o n a l i . Q u e s t o n a t u r a l m e n t e i n c i d e f o r t e m e n t e s u l l e t e c n i c h e d i m i n i n g c h e p o s s o n o e s s e r e s f r u t t a t e s u t a l i t i p o l o g i e d i d a t i . L a c a r a t t e r i s t i c a p r i n c i p a l e è q u e l l a d i e s s e r e d a t i n o n s t r u t t u r a t i , o s s i a d a t i p r i v i d i u n m o d e l l o / s c h e m a c h e l i d e s c r i v a o p e r m e t t a d i a t t r i b u i r e a d e s s i u n a s e m a n t i c a b e n p r e c i s a . L ‘ i m p o r t a n z a d i t a l e t i p o l o g i a d i d a t i è i n c o n t i n u a c r e s c i t a : i l s u c c e s s o d e l l a t e c n o l o g i a w e b e d e i m o t o r i d i r i c e r c a , t r a m i t e i q u a l i r e c u p e r a r e t r a d i z i o n a l m e n t e d a t i t e s t u a l i n o n s t r u t t u r a t i , c o n f e r m a i l r u o l o d e i d a t i t e s t u a l i , e d e l l a r i l e v a n z a d e l l a l o r o a n a l i s i . S e c o n d o G a r t n e r G r o u p , u n a s o c i e t à m u l t i n a z i o n a l e l e a d e r m o n d i a l e n e l l a c o n s u l e n z a s t r a t e g i c a , r i c e r c a e a n a l i s i n e l c a m p o d e l l ‘ I n f o r m a t i o n T e c h n o l o g y , l ‘ 8 0 % d e i s i s t e m i d i b u s i n e s s v e n g o n o c o n d o t t i s u l l a b a s e d i d a t i n o n s t r u t t u r a t i ; i n o l t r e l a q u a n t i t à t o t a l e d i d a t i t e s t u a l i n o n s t r u t t u r a t i r a d d o p p i a o g n i 3 m e s i . U n ‘ a l t r a c a r a t t e r i s t i c a i m p o r t a n t e r e l a t i v a a i d a t i t e s t u a l i è c h e l a s u a r a p p r e s e n t a z i o n e r i s u l t a i n m o d e l l i s p a r s i e d i d i m e n s i o n a l i t à m o l t o e l e v a t e : p e r e s e m p i o , s e d i s p o n i a m o d i u n v o c a b o l a r i o d i 1 0 0 , 0 0 0 t e r m i n i e v o g l i a m o r a p p r e s e n t a r e u n i n s i e m e d i d o c u m e n t i , o g n u n o d i q u e s t i c o n t e r r à u n a p e r c e n t u a l e d e i t e r m i n i t o t a l i , p r o b a b i l m e n t e q u a l c h e c e n t i n a i o d i p a r o l e i n t u t t o ; p e r c i ò u n i n s i e m e d i d o c u m e n t i t e s t u a l i p o t r à e s s e r e r a p p r e s e n t a t o d a u n a m a t r i c e s p a r s a t e r m i n e - d o c u m e n t o d i d i m e n s i o n i , d o v e è i l n u m e r o d i d o c u m e n t i r a p p r e s e n t a t i e i l n u m e r o d i t e r m i n i d e l v o c a b o l a r i o ; l ‘ e l e m e n t o d e l l a m a t r i c e r a p p r e s e n t e r e b b e i n q u e s t o c o n t e s t o l a f r e q u e n z a ( n o r m a l i z z a t a ) d e l t e r m i n e -e s i m o a l l ‘ i n t -e r n o d -e l d o c u m -e n t o .
18 1 . 2 . 2 A p p l i c a z i o n i d e l T e x t M i n i n g N e l c o n t e s t o d e l T e x t M i n i n g e m e r g o n o u n a g r a n d e n u m e r o s i t à d i p o s s i b i l i a p p l i c a z i o n i [ 1 5 ] , e c o r r e l a t i p r o b l e m i d i a n a l i s i e m o d e l l a z i o n e . S o r t o c o n l a s p i n t a d e l l a r i c e r c a n e l c a m p o d e l D a t a M i n i n g , e s i s t o n o u n a g r a n d e v a r i e t à d i c o m u n i t à s c i e n t i f i c h e p r o v e n i e n t i d a d i v e r s i c a m p i d i s t u d i o c h e n e c o l l a b o r a n o p e r i l p r o g r e s s o e l a r i c e r c a , i n c l u d e n d o a p p l i c a z i o n i i n p r o c e s s a m e n t o d i l i n g u a g g i o n a t u r a l e ( n a t u r a l l a n g u a g e p r o c e s s i n g ) , r e c u p e r o d i i n f o r m a z i o n i ( I n f o r m a t i o n R e t r i e v a l ) , a p p r e n d i m e n t o a u t o m a t i c o , i n t e l l i g e n z a a r t i f i c i a l e e c h e r i g u a r d a n o d o m i n i f r a i p i ù d i s p a r a t i , d a l W o r l d W i d e W e b a l l e s c i e n z e b i o m e d i c h e . E s t r a z i o n e d i i n f o r m a z i o n i d a d a t i t e s t u a l i . E ‘ u n a d e l l e a p p l i c a z i o n i c h i a v e r i g u a r d a n t i i l t e x t m i n i n g , l a q u a l e a s s u m e i l r u o l o d i p u n t o d i p a r t e n z a p e r m o l t i a l g o r i t m i . P e r e s e m p i o , l ‘ e s t r a z i o n e d i e n t i t à e d e l l e r e l a z i o n i f r a d i e s s e d a u n t e s t o p u ò e s s e r e i n g r a d o d i r i v e l a r e i n f o r m a z i o n i s e m a n t i c h e m o l t o p i ù r i c c h e d e l l a m e r a c o n s i d e r a z i o n e d e i t e r m i n i u t i l i z z a t i a l l ‘ i n t e r n o d i u n d o c u m e n t o , e d è d i i m p o r t a n z a s t r a t e g i c a f o n d a m e n t a l e a l l o s c o p o d i i n f e r i r e c o n o s c e n z a n a s c o s t a a l l ‘ i n t e r n o d e l l e s t r u t t u r e s i n t a t t i c h e / s e m a n t i c h e . S i n t e t i z z a z i o n e d i t e s t i . U n ‘ a l t r a f u n z i o n e c o m u n e r i c h i e s t a d a m o l t e a p p l i c a z i o n i d i t e x t m i n i n g è q u e l l a d i s i n t e t i z z a r e d o c u m e n t i t e s t u a l i a l f i n e d i o t t e n e r e u n r i a s s u n t o o u n a p a n o r a m i c a d i d o c u m e n t i d i t e s t o m o l t o l u n g h i o p p u r e d i u n i n s i e m e d i d o c u m e n t i a p p a r t e n e n t i a l l o s t e s s o a r g o m e n t o . I l b i s o g n o d i q u e s t o t i p o d i t r a t t a m e n t o d e i d a t i è n a t u r a l e c o n s e g u e n z a d e l l a v a s t a d i s p o n i b i l i t à d i d a t i n o n s t r u t t u r a t i t e s t u a l i d o v u t a a l l ‘ i n c r e m e n t o d e l l e n u o v e t e c n o l o g i e a b i l i t a n t i . L e t e c n i c h e d i s i n t e t i z z a z i o n e g e n e r a l m e n t e f a n n o p a r t e d i d u e c a t e g o r i e : n e l l a s i n t e t i z z a z i o n e p e r e s t r a z i o n e ( e x t r a c t i v e s u m m a r i z a t i o n ) i l r i a s s u n t o v i e n e c o s t r u i t o e s t r a e n d o u n i t à d i i n f o r m a z i o n e t e s t u a l e e s t r a t t e d i r e t t a m e n t e d a l t e s t o o r i g i n a l e ; n e l l a s i n t e t i z z a z i o n e
19 p e r a s t r a z i o n e ( a b s t r a c t i v e s u m m a r i z a t i o n ) i l r i a s s u n t o p o t r e b b e c o n t e n e r e i n v e c e a n c h e u n i t à i n f o r m a t i v e t e s t u a l i c o s t r u i t e a d h o c , o s s i a n o n f a c e n t i p a r t e d e l t e s t o o r i g i n a l e . M e t o d i d i a p p r e n d i m e n t o n o n s u p e r v i s i o n a t i s u d a t i t e s t u a l i . I m e t o d i d i a p p r e n d i m e n t o n o n s u p e r v i s i o n a t i n o n r i c h i e d o n o n e s s u n i n s i e m e d i t r a i n i n g p e r c o s t r u i r e i l m o d e l l o d i c l a s s i f i c a z i o n e , e q u i n d i p o s s o n o e s s e r e a p p l i c a t i a q u a l s i a s i t i p o l o g i a d i d a t o t e s t u a l e s e n z a r i c h i e d e r e s f o r z i m a n u a l i . L e d u e p r i n c i p a l i t i p o l o g i e d i m e t o d i d i a p p r e n d i m e n t o n o n s u p e r v i s i o n a t i u s a t e c o m u n a m e n t e n e l c o n t e s t o d e i d a t i t e s t u a l i s o n o i l c l u s t e r i n g e d i l t o p i c m o d e l i n g . I l p r o b l e m a c h e s i p o n e u n m e t o d o d i c l u s t e r i n g è q u e l l o d i s e g m e n t a r e u n a r a c c o l t a d i d o c u m e n t i i n p a r t i z i o n i , o g n u n a d e l l e q u a l i c o r r i s p o n d e n t e a d u n c l u s t e r f a c e n t e r i f e r i m e n t o u n c e r t o t o p i c , o a r g o m e n t o i n s e n s o g e n e r i c o . C l u s t e r i n g e t o p i c m o d e l i n g s o n o c o r r e l a t e s t r e t t a m e n t e : n e l t o p i c m o d e l i n g v i e n e u t i l i z z a t o u n m o d e l l o p r o b a b i l i s t i c o a l l o s c o p o d i d e t e r m i n a r e l ‘ a p p a r t e n e n z a d i u n d o c u m e n t o a d u n c e r t o c l u s t e r ; c i ò c h e r i s u l t a v i e n e d e t t o s o f t c l u s t e r i n g , n e l q u a l e v i e n e a s s o c i a t a a d o g n i d o c u m e n t o u n a p r o b a b i l i t à d i a p p a r t e n e n z a a d u n c e r t o c l u s t e r , i n m a n i e r a d i v e r s a d a l l ‘ h a r d c l u s t e r i n g , o c l u s t e r i n g t r a d i z i o n a l e . M e t o d i d i a p p r e n d i m e n t o s u p e r v i s i o n a t i s u d a t i t e s t u a l i . I m e t o d i d i a p p r e n d i m e n t o s u p e r v i s i o n a t o s o n o m e t o d i g e n e r a l i d i a p p r e n d i m e n t o a u t o m a t i c o c h e s f r u t t a n o u n i n s i e m e d i d a t i d i t r a i n i n g , o d a d d e s t r a m e n t o p e r a d d e s t r a r e u n c l a s s i f i c a t o r e e p r o d u r r e u n m o d e l l o d i c l a s s i f i c a z i o n e c h e p u ò e s s e r e u t i l i z z a t o p e r c o m p u t a r e p r e d i z i o n i s u d a t i n u o v i . E s i s t e u n a g r a n d e g a m m a d i p r o b l e m a t i c h e e s p r i m i b i l i a t t r a v e r s o m e t o d i d i a p p r e n d i m e n t o s u p e r v i s i o n a t i . M o l t i d e i m e t o d i t r a d i z i o n a l i i n a p p r e n d i m e n t o a u t o m a t i c o s o n o s t a t i e s t e s i a l f i n e d i r i s o l v e r e p r o b l e m i i n a m b i t o d i t e x t m i n i n g . Q u e s t i i n c l u d o n o m e t o d i c o m e q u e l l i b a s a t i s u c l a s s i f i c a t o r i a r e g o l e , a l b e r i d e c i s i o n a l i , c l a s s i f i c a t o r i n e a r e s t n e i g h b o r , c h e v e r r a n o t r a t t a t i p i ù
20 n e l l o s p e c i f i c o , e s s e n d o p a r t e f o n d a n t e d e l p r e s e n t e e l a b o r a t o , n e l s o t t o p a r a g r a f o 1 . 2 . 4 . T r a n s f e r l e a r n i n g c o n d a t i t e s t u a l i . B a s t i p e n s a r e a d u n p r o b l e m a d i m i n i n g c h e s f r u t t a d a t i t e s t u a l i e s p r e s s i i n d i v e r s e l i n g u e p e r p o r t a r e l ‘ a t t e n z i o n e s u l l a p o s s i b i l e e t e r o g e n e i t à d i d a t i d a t r a t t a r e . L ‘ o b i e t t i v o d e l t r a n s f e r l e a r n i n g è q u e l l o d i t r a s f e r i r e c o n o s c e n z a a c q u i s i t a d a u n d o m i n i o a d u n a l t r o : q u e s t o è d i f o n d a m e n t a l e i m p o r t a n z a q u a n d o , p e r e s e m p i o i n m e t o d i d i a p p r e n d i m e n t o s u p e r v i s i o n a t o , i n s i e m e d i t r a i n i n g e d i n s i e m e d i t e s t s o n o c o s t r u i t i s u d i f f e r e n t i i n s i e m i d i f e a t u r e s . T o r n a n d o a l l ‘ e s e m p i o r i g u a r d a n t e l a p o s s i b i l i t à d i t r a s f e r i r e c o n o s c e n z a d a u n d o m i n i o f o n d a t o s u d a t i t e s t u a l i e s p r e s s i i n u n a d a t a l i n g u a a d u n a l t r o i n v e c e c o n n o t a t o d a l l ‘ u t i l i z z o d i u n a s e c o n d a l i n g u a , u n t r a s f e r i m e n t o d i c o n o s c e n z a e s e g u i t o c o n a c c u r a t e z z a a s s u m e r i l e v a n z a m o l t o e l e v a t a , s o p r a t t u t t o q u a l o r a v i s i a p e n u r i a d i d a t i i n u n o d e i d u e d o m i n i . A l t r i s c e n a r i i n c u i i l t r a s f e r i m e n t o d i c o n o s c e n z a d i v i e n e u n p r o b l e m a e m e r g e n t e r i g u a r d a n o l a d i s p o n i b i l i t à d i d a t i e t e r o g e n e i f r a d a t i t e s t u a l i e d a t i m u l t i m e d i a l i ; s p e s s o q u e s t o è i l c a s o d i a p p l i c a z i o n i w e b c o m e F l i c k r , Y o u t u b e o a l t r i s i t i d i c o n d i v i s i o n e d i c o n t e n u t i m u l t i m e d i a l i i n g e n e r e . M i n i n g T e x t s t r e a m s . M o l t e r e c e n t i a p p l i c a z i o n i n a t e s u l w e b c r e a n o f l u s s i i n g e n t i d i d a t i t e s t u a l i ; i n p a r t i c o l a r e a p p l i c a z i o n i c o m e i s o c i a l n e t w o r k s r e n d o n o p o s s i b i l e l ‘ i m m i s s i o n e s i m u l t a n e a d i t e s t o d a p a r t e d i u n a v a r i e t à m o l t o a m p i a d i u t e n t i e p o s s o n o r i s u l t a r e p e r c i ò i n u n f l u s s o c o n t i n u o d i i n f o r m a z i o n i t e s t u a l i d a i v o l u m i e l e v a t i . I n m a n i e r a s i m i l e , s e r v i z i d i r e c u p e r o d i n o t i z i e c o m e R e u t e r s o p p u r e a g g r e g a t o r i c o m e G o o g l e n e w s c r e a n o f l u s s i d i t e s t i d a l v o l u m e t a l m e n t e c o n s i s t e n t e d a p o t e r e f f e t t u a r e m i n i n g i n m a n i e r a c o n t i n u a t i v a . I n q u e s t o c o n t e s t o l ‘ a n a l i s i d i t a l i t i p o l o g i e d i f l u s s i c o n t i n u i è d i s t i m o l a n t e e l a b o r a z i o n e , p o i c h è s o r g e l a n e c e s s i t à d i p r o c e s s a r e i t e s t i n e l c o n t e s t o d i u n v i n c o l o o n e - p a s s : q u e s t o s i g n i f i c a c h e è d i f f i c i l e i m m a g a z z i n a r e i d a t i n e c e s s a r i p e r u n t r a t t a m e n t o t r a d i z i o n a l e o f f - l i n e , e c h e q u i n d i i l c o m p i t o
