Home
Notes
Traductions & Res.
eStudio
Vielbein
Latest notes...
Some notes on Relativity and other arguments
Informazione semantica e vincoli fra Attributi di un Dynamic Frame
<p style="text-align: justify;">In questa nota vogliamo affrontare il problema di determinare la quantità di informazione semantica imposta dai vincoli sui valori assunti dagli attributi di un dynamic frame, seguendo la teoria semantica di Bar-Hillel e Carnap, che abbiamo analizzato in alcune note precedenti.</p> <p style="text-align: justify;">Come esempio su cui applicare i nostri ragionamenti usiamo il dynamic frame della tassonomia di Ray, che qui ripropongo brevemente.</p> <p style="text-align: justify;">Il dynamic frame di un 'bird' è costituito da due attributi [beak, foot], ognuno dei quali può assumere due valori. Rappresentiamo tale frame nel modo seguente:</p> <p style="text-align: center;">Bird = {beak:[round, pointed]; foot:[webbed, clawed]}</p> <p style="text-align: justify;">Il frame rappresenta il superordinate-concept 'bird' a cui corrispondono dei subordinate-concepts, a seconda di quale pattern di attivazione si considera. Nel caso della tassonomia di Ray i subordinate-concepts sono solo due, che andiamo qui di seguito ad elencare:</p> <p style="text-align: center;">Water Bird = {beak:round; foot:webbed}</p> <p style="text-align: center;">Land Bird = {beak:pointed, foot:clawed}</p> <p style="text-align: justify;">Nella tassonomia di Ray esiste un vincolo fra i valori assunti dall'attributo 'beak' e quelli assunti dall'attributo 'foot'; infatti ogni volta che beak = round si ha che il foot è webbed (la relazione è simmetrica).</p> <p style="text-align: justify;">Nelle note precedenti avevamo stabilito che un Attributo di un dynamic frame era equivalente ad un linguaggio definito su n predicati ed un'unica costante individuale: <img title="L_1^n" src="https://latex.codecogs.com/gif.latex?L_1^n" />. Ad esso corrispondeva uno spazio logico ed un insieme di state-description che rappresentavano un possibile stato di universo.</p> <p style="text-align: justify;">Dalle caratteristiche dell'attributo avevamo introdotto il concetto di base-state-description che erano quei particolari state-description in cui un solo predicato era verificato, e di qui la nozione di base di un attributo: </p> <p style="text-align: center;"><img title="B_A=\left \{ w_i^b \right \}" src="https://latex.codecogs.com/gif.latex?B_A=\left&space;\{&space;w_i^b&space;\right&space;\}" /></p> <p style="text-align: justify;">In seguito avevamo ottenuto la quantità di informazione associata ad un attributo, utilizzando la formula seguente, ricavata dalla teoria semantica di Carnap:</p> <p style="text-align: center;"><img title="est(A)=\sum_{i=1}^n m(w^b_i)\cdot inf(w^b_i)" src="https://latex.codecogs.com/gif.latex?est(A)=\sum_{i=1}^n&space;m(w^b_i)\cdot&space;inf(w^b_i)" /></p> <p style="text-align: justify;">dove 'm' è la misura di probabilità definita sullo spazio logico.</p> <p style="text-align: justify;">Prendiamo ora in esame un secondo attributo G, a cui corrisponde un linguaggio <img title="L^k_1" src="https://latex.codecogs.com/gif.latex?L^k_1" /> costituito da k predicati; ipotizziamo inoltre che esista un vincolo fra i valori assunti da G e quelli di A, in modo tale che ogni volta che si verifica Gi si verifichi sempre Ai.</p> <p style="text-align: justify;">Con questa ipotesi qualitativa cerchiamo di determinare la quantità di informazione associata alla combinazione 'A.G' - dove '.' rappresenta l'operatore logico 'and'.</p> <p style="text-align: justify;">Come primo passo dobbiamo costruire il linguaggio associato all'unione dei due attributi (il linguaggio in sostanza del dynamic frame); se i due attributi hanno n e k predicati rispettivamente, il linguaggio sarà composto da p = n*k predicati e 2 costanti individuali (i due attributi):</p> <p style="text-align: center;"><img title="L^{p=n\cdot k}_2" src="https://latex.codecogs.com/gif.latex?L^{p=n\cdot&space;k}_2" /></p> <p style="text-align: justify;">a cui corrisponderanno <img title="2^{n\cdot k\cdot 2}" src="https://latex.codecogs.com/gif.latex?2^{n\cdot&space;k\cdot&space;2}" /> state-description. Di questi, i significativi sono solo quelli che uniscono gli elementi delle due basi e quindi saranno in tutto n*k. Possiamo dunque definire la base dell'unione dei due attributi (un dynamic frame) come:</p> <p style="text-align: center;"><img title="B_{DF}=\sum_{i=1}^n \sum_{j=1}^k w^b_i\cup z^b_j" src="https://latex.codecogs.com/gif.latex?B_{DF}=\sum_{i=1}^n&space;\sum_{j=1}^k&space;w^b_i\cup&space;z^b_j" /></p> <p style="text-align: justify;">dove <img title="w^b_i" src="https://latex.codecogs.com/gif.latex?w^b_i" /> e <img title="z^b_j" src="https://latex.codecogs.com/gif.latex?z^b_j" /> sono gli elementi delle basi di A e G rispettivamente. In una forma più condensata la base può essere espressa come:</p> <p style="text-align: center;"><img title="B_{DF}=\left \{ y_{ij} \right \}" src="https://latex.codecogs.com/gif.latex?B_{DF}=\left&space;\{&space;y_{ij}&space;\right&space;\}" /></p> <p style="text-align: justify;">dove <img title="y_{ij}=w_i\cup z_j" src="https://latex.codecogs.com/gif.latex?y_{ij}=w_i\cup&space;z_j" /> . Su questa base si potrà poi definire una misura di probabilità tale per cui:</p> <p style="text-align: center;"><img title="m_{DF}=\sum _{i=1}^n\sum _{j=1}^k m_{DF}(y_{ij}^b)= 1" src="https://latex.codecogs.com/gif.latex?m_{DF}=\sum&space;_{i=1}^n\sum&space;_{j=1}^k&space;m_{DF}(y_{ij}^b)=&space;1" /></p> <p style="text-align: justify;">La nuova misura di probabilità dovrà tenere in conto dei vincoli che esistono fra i due attributi. Per fare ciò ci vengono in soccorso le misure di probabilità dei singoli attributi e la regola fondamentale del calcolo probabilistico, che qui riportiamo, adattandola al formalismo che stiamo utilizando.</p> <p style="text-align: center;"> <img title="m_{DF}( y^b_{ij})=m_{DF}(w^b_i \cup z^b_j)= p(w^b_i | z^b_j)\cdot m_G(z^b_j)" src="https://latex.codecogs.com/gif.latex?m_{DF}(&space;y^b_{ij})=m_{DF}(w^b_i&space;\cup&space;z^b_j)=&space;p(w^b_i&space;|&space;z^b_j)\cdot&space;m_G(z^b_j)" /></p> <p style="text-align: justify;">dove <img title="p(w^b_i |z^b_j)" src="https://latex.codecogs.com/gif.latex?p(w^b_i&space;|z^b_j)" /> è la probabilità condizionata che noto 'z' si ottenga 'w'. Nel caso dei vincoli associati ad un dynamic frame tale probabilità è pari a 1 (in quanto sono vincoli deterministici). La formula precedente ci permette di determinare la misura di probabilità sull'intera Base dell'unione dei due attributi del dynamic frame.</p> <p style="text-align: justify;">A questo punto è facile definire la <strong>stima della quantità di informazione associata</strong> all'insieme di due attributi di un dynamic frame come:</p> <p style="text-align: center;"><img title="est(inf, A.G)= \sum_{i=1}^n \sum_{j=1}^k m_{DF}(y^b_{i,j})\cdot inf(y^b_{ij})" src="https://latex.codecogs.com/gif.latex?est(inf,&space;A.G)=&space;\sum_{i=1}^n&space;\sum_{j=1}^k&space;m_{DF}(y^b_{i,j})\cdot&space;inf(y^b_{ij})" /></p> <p style="text-align: justify;">Prendiamo ora in esame l'esempio della tassonomia di Ray che vede il concetto di bird costituito da due attributi - 'beak' e 'foot' - ognuno dei quali può assumere 2 valori. Se consideriamo l'unione di questi due attributi avremo un linguaggio costituito da p = 2*2 = 4 predicati e due costanti individuali:</p> <p style="text-align: center;"><img title="L(beak,foot)=L^4_2" src="https://latex.codecogs.com/gif.latex?L(beak,foot)=L^4_2" /></p> <p style="text-align: justify;">Parte dello spazio logico associato all'attributo 'beak' è</p> <table style="height: 61px; width: 446px;"> <tbody> <tr style="height: 13px;"> <td style="width: 59px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 390.189px; height: 13px; background-color: yellow; text-align: center;">pointed</td> <td style="width: 427.811px; height: 13px; background-color: yellow; text-align: center;">rounded</td> <td style="width: 302px; height: 13px; background-color: yellow; text-align: center;">m</td> </tr> <tr style="height: 13.5983px; text-align: center;"> <td style="width: 59px; height: 13.5983px;">w1</td> <td style="width: 390.189px; height: 13.5983px;">true</td> <td style="width: 427.811px; height: 13.5983px;">false</td> <td style="width: 302px; height: 13.5983px;">0.5</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 59px; height: 13px;">w2</td> <td style="width: 390.189px; height: 13px;">false</td> <td style="width: 427.811px; height: 13px;">true</td> <td style="width: 302px; height: 13px;">0.5</td> </tr> </tbody> </table> <p style="text-align: justify;">dove sono indicati solo i base-state-description, che portano alla base:</p> <p style="text-align: center;"><img title="B_{beak}=\left \{ w_1, w_2 \right \}" src="https://latex.codecogs.com/gif.latex?B_{beak}=\left&space;\{&space;w_1,&space;w_2&space;\right&space;\}" /></p> <p style="text-align: justify;">Nell'ultima colonna della tabella è anche indicata la misura di probabilità associata ai due stati.</p> <p style="text-align: justify;">La medesima cosa vale per l'attributo 'foot', il cui spazio logico è in parte costituito dalla seguente tabella:</p> <table style="height: 61px; width: 446px;"> <tbody> <tr style="height: 13px;"> <td style="width: 36.427px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 140.681px; height: 13px; background-color: yellow; text-align: center;">webbed</td> <td style="width: 147.732px; height: 13px; background-color: yellow; text-align: center;">clawed</td> <td style="width: 98.1175px; height: 13px; background-color: yellow; text-align: center;">m</td> </tr> <tr style="height: 13.5983px; text-align: center;"> <td style="width: 36.427px; height: 13.5983px;">z1</td> <td style="width: 140.681px; height: 13.5983px;">true</td> <td style="width: 147.732px; height: 13.5983px;">false</td> <td style="width: 98.1175px; height: 13.5983px;">0.5</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36.427px; height: 13px;">z2</td> <td style="width: 140.681px; height: 13px;">false</td> <td style="width: 147.732px; height: 13px;">true</td> <td style="width: 98.1175px; height: 13px;">0.5</td> </tr> </tbody> </table> <p style="text-align: justify;">dove sono indicati solo i base-state-description, che portano alla base:</p> <p style="text-align: center;"><img title="B_{foot}=\left \{ z_1, z_2 \right \}" src="https://latex.codecogs.com/gif.latex?B_{foot}=\left&space;\{&space;z_1,&space;z_2&space;\right&space;\}" /></p> <p style="text-align: justify;">Nell'ultima colonna della tabella è anche indicata la misura di probabilità associata ai due stati.</p> <p style="text-align: justify;">Se ora consideriamo l'unione dei due attributi - che costituisce in sostanza un dynamic frama - avremo che lo spazio logico - nella sua parte essenziale - sarà costituito dalla combinazione dei 4 base-state-description:</p> <table style="height: 61px; width: 446px;"> <tbody> <tr style="height: 13px;"> <td style="width: 36.427px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 140.681px; height: 13px; background-color: yellow; text-align: center;">combinazione di base-state-description</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36.427px; height: 13px;">y11</td> <td style="width: 140.681px; height: 13px;">w1 + z1</td> </tr> <tr style="height: 13.3224px; text-align: center;"> <td style="width: 36.427px; height: 13.3224px;">y12</td> <td style="width: 140.681px; height: 13.3224px;">w1 + z2</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36.427px; height: 13px;">y21</td> <td style="width: 140.681px; height: 13px;">w2 + z1</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36.427px; height: 13px;">y22</td> <td style="width: 140.681px; height: 13px;">w2 + z2</td> </tr> </tbody> </table> <p style="text-align: justify;">La tabella precedente in sostanza costituisce la base dello spazio logico associato all'unione dei due attributi:</p> <p style="text-align: center;"><img title="B_{beak,foot} = \left \{ y_{11}, y_{12}, y_{21}, y_{22} \right \}" src="https://latex.codecogs.com/gif.latex?B_{beak,foot}&space;=&space;\left&space;\{&space;y_{11},&space;y_{12},&space;y_{21},&space;y_{22}&space;\right&space;\}" /></p> <p style="text-align: justify;">Rimane infine da calcolare la misura di probabilità per i vari stati, considerando la presenza dei vincoli esistenti fra i due attributi. Sappiamo che ogni volta che si verifica lo stato z1 (foot = webbed) si verifica anche lo stato w2 (beak = round); analogamente se consideriamo z2 (foot = clawed) si ha sempre w1 (beak = pointed). Tutto ciò in formule equivale a:</p> <p style="text-align: center;"><img title="p(w_2 | z_1) = 1" src="https://latex.codecogs.com/gif.latex?p(w_2&space;|&space;z_1)&space;=&space;1" /></p> <p style="text-align: center;"> <img title="p(w_1 | z_2) = 1" src="https://latex.codecogs.com/gif.latex?p(w_1&space;|&space;z_2)&space;=&space;1" /></p> <p style="text-align: center;"><img title="p(w_1 | z_1) = 0" src="https://latex.codecogs.com/gif.latex?p(w_1&space;|&space;z_1)&space;=&space;0" /></p> <p style="text-align: center;"><img title="p(w_2 | z_2) = 0" src="https://latex.codecogs.com/gif.latex?p(w_2&space;|&space;z_2)&space;=&space;0" /></p> <p style="text-align: justify;">Con queste impostazioni abbiamo che la misura di probabilità per ogni stato della base diviene:</p> <table style="height: 61px; width: 530.951px;"> <tbody> <tr style="height: 13px;"> <td style="width: 36px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 295px; height: 13px; background-color: yellow; text-align: center;">combinazione di base-state-description</td> <td style="width: 94.9515px; height: 13px; background-color: yellow; text-align: center;">m</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y11</td> <td style="width: 295px; height: 13px;">w1 + z1</td> <td style="width: 94.9515px; height: 13px;">0.0</td> </tr> <tr style="height: 13.3224px; text-align: center;"> <td style="width: 36px; height: 13.3224px;">y12</td> <td style="width: 295px; height: 13.3224px;">w1 + z2</td> <td style="width: 94.9515px; height: 13.3224px;">0.5</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y21</td> <td style="width: 295px; height: 13px;">w2 + z1</td> <td style="width: 94.9515px; height: 13px;">0.5</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y22</td> <td style="width: 295px; height: 13px;">w2 + z2</td> <td style="width: 94.9515px; height: 13px;">0.0</td> </tr> </tbody> </table> <p style="text-align: justify;">Con la misura di probabilità descritta nella tabella possiamo calcolare la quantità di informazione per ogni base-state-description seguendo la formula:</p> <p style="text-align: center;"><img title="inf(y^b_{ij}) = - Log(m(y^b_{ij}))" src="https://latex.codecogs.com/gif.latex?inf(y^b_{ij})&space;=&space;-&space;Log(m(y^b_{ij}))" /></p> <p style="text-align: justify;">che porta ai risultati:</p> <table style="height: 61px; width: 530.951px;"> <tbody> <tr style="height: 13px;"> <td style="width: 36px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 295px; height: 13px; background-color: yellow; text-align: center;">combinazione di base-state-description</td> <td style="width: 94.9515px; height: 13px; background-color: yellow; text-align: center;">m</td> <td style="width: 94.9515px; height: 13px; background-color: yellow; text-align: center;">inf</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y11</td> <td style="width: 295px; height: 13px;">w1 + z1</td> <td style="width: 94.9515px; height: 13px;">0.0</td> <td style="width: 94.9515px; height: 13px;">0.0</td> </tr> <tr style="height: 13.3224px; text-align: center;"> <td style="width: 36px; height: 13.3224px;">y12</td> <td style="width: 295px; height: 13.3224px;">w1 + z2</td> <td style="width: 94.9515px; height: 13.3224px;">0.5</td> <td style="width: 94.9515px; height: 13.3224px;">1.0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y21</td> <td style="width: 295px; height: 13px;">w2 + z1</td> <td style="width: 94.9515px; height: 13px;">0.5</td> <td style="width: 94.9515px; height: 13px;">1.0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 36px; height: 13px;">y22</td> <td style="width: 295px; height: 13px;">w2 + z2</td> <td style="width: 94.9515px; height: 13px;">0.0</td> <td style="width: 94.9515px; height: 13px;">0.0</td> </tr> </tbody> </table> <p style="text-align: justify;">dove il logaritmo è calcolato in base 2. E da qui si può determinare la quantità di informazione contenuta nell'unione dei due attributi nel modo seguente:</p> <p style="text-align: center;"><img title="est(inf, beak.foot) = m(y^b_{11})\cdot Log(y^b_{11}) + m(y^b_{12})\cdot Log(y^b_{12}) + + m(y^b_{21})\cdot Log(y^b_{21}) + + m(y^b_{22})\cdot Log(y^b_{22})" src="https://latex.codecogs.com/gif.latex?est(inf,&space;beak.foot)&space;=&space;m(y^b_{11})\cdot&space;Log(y^b_{11})&space;+&space;m(y^b_{12})\cdot&space;Log(y^b_{12})&space;+&space;+&space;m(y^b_{21})\cdot&space;Log(y^b_{21})&space;+&space;+&space;m(y^b_{22})\cdot&space;Log(y^b_{22})" /></p> <p style="text-align: justify;">che porta a:</p> <p style="text-align: center;"><img title="est(inf, beak.foot) = 0 + 0.5\cdot 1.0 + 0.5\cdot 1.0 + 0 = 1.0" src="https://latex.codecogs.com/gif.latex?est(inf,&space;beak.foot)&space;=&space;0&space;+&space;0.5\cdot&space;1.0&space;+&space;0.5\cdot&space;1.0&space;+&space;0&space;=&space;1.0" /></p> <p style="text-align: justify;">Dal risultato ottenuto si deduce che la quantità di informazione necessaria per determinare l'unione dei due attributi della tassonomia di Ray per il concetto 'bird' è pari a 1 bit - risultato che avevamo già ottenuto per altra via in una nota precedente.</p>