Home
Notes
Traductions & Res.
eStudio
Vielbein
Latest notes...
Some notes on Relativity and other arguments
Informazione semantica in un Attributo di un Dynamic Frame
<p style="text-align: justify;">In questa nota vogliamo affrontare il problema di determinare la quantità di informazione semantica contenuta in un attributo di un dynamic frame, seguendo la teoria semantica di Bar-Hillel e Carnap, che abbiamo analizzato in alcune note precedenti.</p> <p style="text-align: justify;">Come esempio su cui applicare i nostri ragionamenti usiamo il dynamic frame della tassonomia di Ray, che qui ripropongo brevemente.</p> <p style="text-align: justify;">Il dynamic frame di un bird è costituito da due attributi [beak, foot], ognuno dei quali può assumere due valori. Rappresentiamo tale frame nel modo seguente:</p> <p style="text-align: center;">Bird = {beak:[round, pointed]; foot:[webbed, clawed]}</p> <p style="text-align: justify;">Il frame rappresenta il superordinate-concept bird a cui corrispondono dei subordinate-concepts, a seconda di quale pattern di attivazione si considera. Nel caso della tassonomia di Ray i subordinate-concepts sono solo due, che andiamo qui di seguito ad elencare:</p> <p style="text-align: center;">Water Bird = {beak:round; foot:webbed}</p> <p style="text-align: center;">Land Bird = {beak:pointed, foot:clawed}</p> <p style="text-align: justify;">Consideriamo dunque un attributo <strong>A</strong> di un qualsiasi frame. Indichiamo con <strong>Ai</strong> i possibili valori di tale attributo con i = 1 .. n. Possiamo pensare ai valori Ai come i predicati monadici di un linguaggio L definito su n predicati ed un'unica costante individuale: <img title="L_1^n" src="https://latex.codecogs.com/gif.latex?L_1^n" />. In un linguaggio di tale fatta è possibile costruire <img title="2^{predicati\cdot costanti}=2^{2\cdot 1}=4" src="https://latex.codecogs.com/gif.latex?2^{predicati\cdot&space;costanti}=2^{2\cdot&space;1}=4" /> state-description il cui insieme costituisce lo spazio logico del linguaggio. Lo spazio logico è quindi definito come:</p> <p style="text-align: center;"><img title="S_A=\left \{ w_i \right \}" src="https://latex.codecogs.com/gif.latex?S_A=\left&space;\{&space;w_i&space;\right&space;\}" /></p> <p style="text-align: justify;">dove <img title="w_i" src="https://latex.codecogs.com/gif.latex?w_i" /> è l'i-esimo state-description.</p> <p style="text-align: justify;">Uno state-description descrive in maniera esaustiva un possibile stato di universo ed ognuno di essi dice il massimo che si può dire in un dato universo.</p> <p style="text-align: justify;">Sullo spazio logico è possibile costruire una misura di probabilità m(-), che seguendo Carnap potrebbe essere m*, ma che noi definiremo diversamente (alcune considerazioni al riguardo verranno fatte in seguito).</p> <p style="text-align: justify;">Un aspetto importante da considerare dei dynamic frame è che un attributo può assumere - di volta in volta - un unico valore degli n permessi; per dare una definizione formale a questa considerazione introduciamo i <strong>base-state-description</strong>, che sono quei particolari state-description in cui solo un singolo valore (predicato) è istanziato. Nel caso di n valori avremo n base-state-description. Utilizziamo il nome base-state-description in quanto questi stati rappresentano una 'base' nello spazio logico dell'attributo. Formalmente si ha:</p> <p style="text-align: center;"><img title="B_A=\left \{ w_i^b \right \}" src="https://latex.codecogs.com/gif.latex?B_A=\left&space;\{&space;w_i^b&space;\right&space;\}" /></p> <p style="text-align: justify;">dove B è l'insieme dei base-state-description <img title="w_i^b" src="https://latex.codecogs.com/gif.latex?w_i^b" /> dell'attributo A.</p> <p style="text-align: justify;">Come misura di probabilità <img title="m_A" src="https://latex.codecogs.com/gif.latex?m_A" /> sull'attributo A, definiamo una misura che soddisfa i criteri di probabilità solo sui base-state-description. Limitandoci all'ipotesi che la somma delle probabilità sui base-state-description deve essere pari a 1 in formule si ha:</p> <p style="text-align: center;"><img title="m_A(B_A)=\sum _{i=1}^n m_A(w_i^b)=1" src="https://latex.codecogs.com/gif.latex?m_A(B_A)=\sum&space;_{i=1}^n&space;m_A(w_i^b)=1" /></p> <p style="text-align: justify;">La misura di probabilità <img title="m_A" src="https://latex.codecogs.com/gif.latex?m_A" /> assegnerà un valore nullo di probabilità agli state-decription che non sono base-state-description.</p> <p style="text-align: justify;">Per fare un esempio, consideriamo il caso dell'attributo <strong>beak</strong> del dynamic frame <em>bird</em>. I valori assunti dall'attributo sono solo 2: A= {pointed, rounded}. Abbiamo dunque a che fare in questo caso con un linguaggio <img title="L_1^2" src="https://latex.codecogs.com/gif.latex?L_1^2" /> i cui state-description sono:</p> <table style="height: 61px; width: 446px;"> <tbody> <tr style="height: 13px;"> <td style="width: 59px; height: 13px; background-color: yellow; text-align: center;">state</td> <td style="width: 390.189px; height: 13px; background-color: yellow; text-align: center;">pointed</td> <td style="width: 427.811px; height: 13px; background-color: yellow; text-align: center;">rounded</td> <td style="width: 302px; height: 13px; background-color: yellow; text-align: center;">m</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 59px; height: 13px;">w1</td> <td style="width: 390.189px; height: 13px;">true</td> <td style="width: 427.811px; height: 13px;">true</td> <td style="width: 302px; height: 13px;">0</td> </tr> <tr style="height: 13.5983px; text-align: center;"> <td style="width: 59px; height: 13.5983px; background-color: green;">w2</td> <td style="width: 390.189px; height: 13.5983px;">true</td> <td style="width: 427.811px; height: 13.5983px;">false</td> <td style="width: 302px; height: 13.5983px;">0.5</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 59px; height: 13px; background-color: green;">w3</td> <td style="width: 390.189px; height: 13px;">false</td> <td style="width: 427.811px; height: 13px;">true</td> <td style="width: 302px; height: 13px;">0.5</td> </tr> <tr style="height: 13px;"> <td style="width: 59px; height: 13px; text-align: center;">w4</td> <td style="width: 390.189px; height: 13px; text-align: center;">false</td> <td style="width: 427.811px; height: 13px; text-align: center;">false</td> <td style="width: 302px; height: 13px; text-align: center;">0</td> </tr> </tbody> </table> <p style="text-align: justify;">Nel nostro esempio abbiamo 4 state-description. Di questi però solo w2 e w3 sono anche base-state-description, e dunque abbiamo:</p> <p style="text-align: center;"><img title="B_{beak}=\left \{ w_2,w_3 \right \}" src="https://latex.codecogs.com/gif.latex?B_{beak}=\left&space;\{&space;w_2,w_3&space;\right&space;\}" /></p> <p style="text-align: justify;">Su questa base possiamo costruire la nostra misura di probabilità che associerà probabilità 1/2 ai due base-state-description ed un valore di 0 agli altri due.</p> <p style="text-align: justify;">Nella teoria di Carnap si utilizza non solo la misura di probabilità m(-), ma anche la funzione c(h, e) che determina il grado di conferma di un'ipotesi 'h' su un'evidenza 'e', definita nel modo seguente:</p> <p style="text-align: center;"><img title="c(h,e)= \frac{m(e.h)}{m(e)}" src="https://latex.codecogs.com/gif.latex?c(h,e)=&space;\frac{m(e.h)}{m(e)}" /></p> <p style="text-align: justify;">dove l'ipotesi 'h' e l'evidenza 'e' sono scelti all'interno dello spazio logico (il simbolo '.' sta ad indicare l'operatore 'and' logico). Così ad esempio se consideriamo come evidenza empirica e = {pointed v rounded} - dove il simbolo 'v' è l'operatore 'or' logico - e come ipotesi h = !rounded, avremo che m(e) = 0 + 0.5 + 0.5 = 1.0, mentre m(e.h) = m(!rounded.(pointed v rounded)) = 0.5 (la condizione è valida solo in w2) e da qui il calcolo di c(h,e) = 0.5.</p> <p style="text-align: justify;">In generale Carnap attinge liberamente l'evidenza dallo spazio logico; nel caso degli attributi dei dynamic frame noi siamo in presenza di un'informazione massima attingibile dallo spazio logico, il che corrisponde a considerare come evidenza la disgiunzione di tutti i predicati:</p> <p style="text-align: center;"><img title="e=A_i \vee ... \vee A_n" src="https://latex.codecogs.com/gif.latex?e=A_i&space;\vee&space;...&space;\vee&space;A_n" /></p> <p style="text-align: justify;">tale ipotesi porta ad avere m(e) = 1 ed inoltre c(h,e) = m(e.h) = m(h).</p> <p style="text-align: justify;">Veniamo ora a considerare l'informazione associata ad un attributo di un dynamic frame. Carnap introduce due tipologie di informazione: il <strong>contenuto di informazione semantica</strong> attribuito ad una proposizione 'i', definito come</p> <p style="text-align: center;"><img title="cont(i) = 1 - m(i)" src="https://latex.codecogs.com/gif.latex?cont(i)&space;=&space;1&space;-&space;m(i)" /></p> <p style="text-align: justify;">e la <strong>quantità di informazione semantica</strong> attribuita ad una proposizione 'i', definita come:</p> <p style="text-align: center;"><img title="inf(i)= -Log(m(i))" src="https://latex.codecogs.com/gif.latex?inf(i)=&space;-Log(m(i))" /></p> <p style="text-align: justify;">dove il logaritmo è considerato in base 2. Nel seguito di questa nota considereremo solo la seconda definizione, per la sua analogia con l'entropia di Shannon.</p> <p style="text-align: justify;">Se ora consideriamo lo spazio logico di un attributo A, possiamo definire facilmente la quantità di informazione di uno state-description come:</p> <p style="text-align: center;"><img title="inf(w_i)=-Log(m(w_i))" src="https://latex.codecogs.com/gif.latex?inf(w_i)=-Log(m(w_i))" /></p> <p style="text-align: justify;">Se consideriamo l'attributo beak, la quantità di informazione semantica associata ad esempio allo state-description w2 (si noti che w2 è anche un base-state-description) è inf(w2) = -Log(0.5)= 1, cioè è necessario 1 bit di informazione per determinare lo stato w2.</p> <p style="text-align: justify;">Carnap introduce anche una <strong>stima della quantità di informazione</strong> associata ad un'insieme di ipotesi H = (h1 .. hn) come:</p> <p style="text-align: center;"><img title="est(H)=\sum _{i=1}^n m(h_i)inf(h_i)" src="https://latex.codecogs.com/gif.latex?est(H)=\sum&space;_{i=1}^n&space;m(h_i)inf(h_i)" /></p> <p style="text-align: justify;">dove abbiamo semplificato il caso impostando c(h,e) = m(h), come abbiamo indicato in precedenza. Questa definizione ci permette di calcolare la quantità di informazione associata all'intero attributo di un dynamic frame, in quanto l'insieme delle ipotesi H nella formulazione di Carnap corrisponde all'insieme dei base-state-description <img title="w_i^b" src="https://latex.codecogs.com/gif.latex?w_i^b" /> dell'attributo A; possiamo quindi formalizzare la <strong>quantità di informazione di un attributo</strong> come:</p> <p style="text-align: center;"> <img title="est(A)=\sum_{i=1}^n m(w^b_i)\cdot inf(w^b_i)" src="https://latex.codecogs.com/gif.latex?est(A)=\sum_{i=1}^n&space;m(w^b_i)\cdot&space;inf(w^b_i)" /></p> <p style="text-align: justify;">Se prendiamo in esame il caso dell'attributo beak, avremo che la quantità di informazione ad esso associata è est(beak) = m(w2)*inf(w2) + m(w3)*inf(w3) = 0.5*1 + 0.5*1 = 1.</p>