Home
Notes
Traductions & Res.
eStudio
Vielbein
Latest notes...
Some notes on Relativity and other arguments
Informazione semantica in un Dynamic Frame - senza vincoli
<p style="text-align: justify;">In questa nota vogliamo affrontare il problema di determinare la quantità di informazione semantica contenuta in un dynamic frame. In alcune note precedenti avevamo considerato il caso di applicare il concetto di informazione proposto da Shannon al caso dei dynamic frame; ora proviamo a determinare il contenuto semantico basandosi sulla teoria semantica di Bar-Hillel e Carnap.</p> <p style="text-align: justify;">Come esempio su cui applicare i nostri ragionamenti usiamo il dynamic frame della tassonomia di Ray del bird, che qui ripropongo brevemente.</p> <p style="text-align: justify;">Il dynamic frame di un bird è costituito da due attributi [beak, foot], ognuno dei quali può assumere due valori. Rappresentiamo tale frame nel modo seguente:</p> <p style="text-align: center;">Bird = {beak:[round, pointed]; foot:[webbed, clawed]}</p> <p style="text-align: justify;">Il frame rappresenta il superordinate-concept bird a cui corrispondono dei subordinate-concepts, a seconda di quale pattern di attivazione si considera. Nel caso della tassonomia di Ray i subordinate-concepts sono solo due, che andiamo qui di seguito ad elencare:</p> <p style="text-align: center;">Water Bird = {beak:round; foot:webbed}</p> <p style="text-align: center;">Land Bird = {beak:pointed, foot:clawed}</p> <p style="text-align: justify;">Inoltre esiste un vincolo che lega l'attributo beak con l'attributo foot, nel senso che quando si presenta il caso di un beak round si ha sempre un valore di foot webbed (stessa situazione si ha con gli altri valori). Nel nostro esempio non considereremo questo vincolo e dunque avremo 4 subordinate-concepts che rappresentiamo come:</p> <p style="text-align: center;">Bird_ij = {beak:beak_i, foot:foot_j}</p> <p style="text-align: justify;">dove gli indici (i,j) assumono i valori (1,2) e permettono di individuare tutti i possibili valori degli attributi del dynamic frame.</p> <p style="text-align: justify;">La proposta di Bar-Hillel e Carnap è basata sull'<em>Inverse Relationship Principle</em> secondo cui la quantità di informazione associata ad una proposizione è '<em>inversely related</em>' alla probabilità di tale proposizione. Con l'utilizzo di una probabilità logica Pr() sullo spazio degli stati possibili i due autori introducono due misure:</p> <p style="text-align: center;"><img title="cont(x)=1-Pr(x)" src="https://latex.codecogs.com/gif.latex?cont(x)=1-Pr(x)" /></p> <p style="text-align: center;"><img title="inf(x)=-log_2Pr(x)" src="https://latex.codecogs.com/gif.latex?inf(x)=-log_2Pr(x)" /></p> <p style="text-align: justify;">Per comprendere come applicare queste formule al dynamic frame dobbiamo innanzi tutto generare delle proposizioni associate ad un dynamic frame; questo è abbastanza semplice in quanto ogni valore di un attributo può essere pensato come una proposizione atomica di un linguaggio. Così ad esempio la proposizione x:</p> <p style="text-align: center;"><img title="x\rightarrow beak\_round(x)" src="https://latex.codecogs.com/gif.latex?x\rightarrow&space;beak\_round(x)" /></p> <p style="text-align: justify;">asserisce che il bird x ha il becco arrotondato (le proposizioni che considereremo riguardano solo il concetto di bird). Per il dynamic frame del bird introduciamo dunque 4 proposizioni atomiche: beak_round, beak_pointed, foot_webbed, foot_clawed che portano a definire uno spazio degli stati descritto nella tabella seguente:</p> <table style="height: 324px;" width="537"> <tbody> <tr style="height: 28px;"> <td style="width: 68.4488px; height: 28px; background-color: yellow; text-align: center;">state</td> <td style="width: 85.2786px; height: 28px; background-color: yellow; text-align: center;">beak_round</td> <td style="width: 89.2978px; height: 28px; background-color: yellow; text-align: center;">beak_pointed</td> <td style="width: 87.7259px; height: 28px; background-color: yellow; text-align: center;">foot_webbed</td> <td style="width: 85.561px; height: 28px; background-color: yellow; text-align: center;">foot_clawed</td> <td style="width: 82.0877px; height: 28px; background-color: yellow; text-align: center;">Probability</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w1</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w2</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w3</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w4</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w5</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w6</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w7</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w8</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13.5125px; text-align: center;"> <td style="width: 68.4488px; height: 13.5125px;">w9</td> <td style="width: 85.2786px; height: 13.5125px;">false</td> <td style="width: 89.2978px; height: 13.5125px;">true</td> <td style="width: 87.7259px; height: 13.5125px;">true</td> <td style="width: 85.561px; height: 13.5125px;">false</td> <td style="width: 82.0877px; height: 13.5125px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w10</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w11</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w12</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w13</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w14</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w15</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">1/15</td> </tr> </tbody> </table> <p>dove sono indicati tutti i possibili 'activation pattern' e la loro relativa probabilità; si è ipotizzato che gli stati siano equiprobabili (la somma di tutte le probabilità deve fare 1). Si osservi che i possibili stati sono <img title="n^2-1" src="https://latex.codecogs.com/gif.latex?n^2-1" />.</p> <p style="text-align: justify;">Ogni stato può avere una sua <em>descrizione</em> che è la congiunzione di affermazioni atomiche costituite da ciascun atomo nello spazio logico o dalla sua negazione, ma mai da entrambi; così ad esempio la descrizione dello stato w1 è:</p> <p style="text-align: center;"><img title="w1 = beak\_round \wedge \neg beak\_pointed\wedge\neg foot\_webbed\wedge \neg foot\_clawed" src="https://latex.codecogs.com/gif.latex?w1&space;=&space;beak\_round&space;\wedge&space;\neg&space;beak\_pointed\wedge\neg&space;foot\_webbed\wedge&space;\neg&space;foot\_clawed" /></p> <p style="text-align: justify;">e dello stato w2 - che corrisponde ad un valido 'activation pattern' per il nostro dynamic frame:</p> <p style="text-align: center;"><img title="w_2=beak\_round\wedge \neg beak\_pointed\wedge foot\_webbed \wedge \neg foot\_clawed" src="https://latex.codecogs.com/gif.latex?w_2=beak\_round\wedge&space;\neg&space;beak\_pointed\wedge&space;foot\_webbed&space;\wedge&space;\neg&space;foot\_clawed" /></p> <p style="text-align: justify;">Si osservi che i subordinate concept sono precisi stati dello spazio logico.</p> <p style="text-align: justify;">A questo punto possiamo determinare i valori dell'informazione semantica di un qualsiasi stato dello spazio logico nel modo seguente:</p> <p style="text-align: center;"><img title="cont(w_i)= 1-Pr(w_i)= 1-1/15=0.93" src="https://latex.codecogs.com/gif.latex?cont(w_i)=&space;1-Pr(w_i)=&space;1-1/15=0.93" /></p> <p style="text-align: center;"><img title="inf(w_i)=-log_2Pr(w_i)=4.05" src="https://latex.codecogs.com/gif.latex?inf(w_i)=-log_2Pr(w_i)=4.05" /></p> <p style="text-align: justify;">La descrizione degli stati dello spazio logico è massimamente informativa. Se però ad esempio le proposizioni che consideriamo non rappresentano uno stato di quelli indicati, ci dovremmo aspettare una informazione semantica inferiore. Così ad esempio proviamo a considerare l'asserzione:</p> <p style="text-align: center;"><img title="a = beck\_pointed\wedge foot\_webbed" src="https://latex.codecogs.com/gif.latex?a&space;=&space;beck\_pointed\wedge&space;foot\_webbed" /></p> <p style="text-align: justify;">contando gli stati in cui entrambe le proposizioni atomiche sono valide (si noti che è una situazione non valida per il dynamic frame che stiamo considerando), avremo i seguenti valori di informazione:</p> <p style="text-align: center;"><img title="cont(a)=1-Pr(a)=1-4*\frac{1}{15}=0.72" src="https://latex.codecogs.com/gif.latex?cont(a)=1-Pr(a)=1-4*\frac{1}{15}=0.72" /></p> <p style="text-align: center;"><img title="inf(a)=-log_2Pr(a)=-log_2Pr(\frac{4}{15})=1.83" src="https://latex.codecogs.com/gif.latex?inf(a)=-log_2Pr(a)=-log_2Pr(\frac{4}{15})=1.83" /></p> <p style="text-align: justify;">che confermano la diminuzione di informazione per le proposizioni in oggetto.</p> <p style="text-align: justify;">Una situazione analoga si ha anche per proposizioni che contengono l'operatore logico 'Or'; se ad esempio consideriamo la proposizione:</p> <p style="text-align: center;"><img title="b=beak\_pointed\vee foot\_webbed" src="https://latex.codecogs.com/gif.latex?b=beak\_pointed\vee&space;foot\_webbed" /></p> <p style="text-align: justify;">avremo le quantità di informazione seguenti:</p> <p style="text-align: center;"><img title="cont(b)=1-Pr(b)= 1-\frac{11}{15}=0.26" src="https://latex.codecogs.com/gif.latex?cont(b)=1-Pr(b)=&space;1-\frac{11}{15}=0.26" /></p> <p style="text-align: center;"><img title="inf(b)= -log_2Pr(b)=-log_2\frac{11}{15}=0.45" src="https://latex.codecogs.com/gif.latex?inf(b)=&space;-log_2Pr(b)=-log_2\frac{11}{15}=0.45" /></p> <p style="text-align: justify;">che dimostra appunto come la quantità di informazione sia andata diminuendo ulteriormente.</p> <p style="text-align: justify;">Le probabilità logiche che abbiamo imposto sui vari stati non rispecchiano però la struttura del dynamic frame del concetto bird; nel nostro caso gli unici stati ammessi ed equiprobabili sono:</p> <p style="text-align: center;"><img title="bird=\left \{ w_2,w_3,w_9,w_{10}\right \}" src="https://latex.codecogs.com/gif.latex?bird=\left&space;\{&space;w_2,w_3,w_9,w_{10}\right&space;\}" /></p> <p style="text-align: justify;">Si osservi che i 4 stati dello spazio logico corrispondono anche ai 4 subordinate-concepts bird_ij, come avevamo già indicato in precedenza. A questo punto anche le probabilità logiche dei vari stati devono essere modificate secondo la tabella seguente:</p> <table style="height: 324px;" width="537"> <tbody> <tr style="height: 28px;"> <td style="width: 68.4488px; height: 28px; background-color: yellow; text-align: center;">state</td> <td style="width: 85.2786px; height: 28px; background-color: yellow; text-align: center;">beak_round</td> <td style="width: 89.2978px; height: 28px; background-color: yellow; text-align: center;">beak_pointed</td> <td style="width: 87.7259px; height: 28px; background-color: yellow; text-align: center;">foot_webbed</td> <td style="width: 85.561px; height: 28px; background-color: yellow; text-align: center;">foot_clawed</td> <td style="width: 82.0877px; height: 28px; background-color: yellow; text-align: center;">Probability</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w1</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">0</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w2</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/4</td> </tr> <tr style="height: 13px;"> <td style="width: 68.4488px; height: 13px; text-align: center;">w3</td> <td style="width: 85.2786px; height: 13px; text-align: center;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">false</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">1/4</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w4</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w5</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">false</td> <td style="width: 82.0877px; height: 13px; text-align: center;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w6</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">false</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w7</td> <td style="width: 85.2786px; height: 13px;">true</td> <td style="width: 89.2978px; height: 13px; text-align: center;">true</td> <td style="width: 87.7259px; height: 13px; text-align: center;">true</td> <td style="width: 85.561px; height: 13px; text-align: center;">true</td> <td style="width: 82.0877px; height: 13px; text-align: center;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w8</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> <tr style="height: 13.5125px; text-align: center;"> <td style="width: 68.4488px; height: 13.5125px;">w9</td> <td style="width: 85.2786px; height: 13.5125px;">false</td> <td style="width: 89.2978px; height: 13.5125px;">true</td> <td style="width: 87.7259px; height: 13.5125px;">true</td> <td style="width: 85.561px; height: 13.5125px;">false</td> <td style="width: 82.0877px; height: 13.5125px;">1/4</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w10</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">1/4</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w11</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">true</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w12</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w13</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">true</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w14</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">true</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> <tr style="height: 13px; text-align: center;"> <td style="width: 68.4488px; height: 13px;">w15</td> <td style="width: 85.2786px; height: 13px;">false</td> <td style="width: 89.2978px; height: 13px;">false</td> <td style="width: 87.7259px; height: 13px;">false</td> <td style="width: 85.561px; height: 13px;">false</td> <td style="width: 82.0877px; height: 13px;">0</td> </tr> </tbody> </table> <p style="text-align: justify;">e le relative quantità di informazione semantica per uno dei 4 stati è:</p> <p style="text-align: center;"><img title="cont(w_2)=1-Pr(w_2)= 1-0.25=0.75" src="https://latex.codecogs.com/gif.latex?cont(w_2)=1-Pr(w_2)=&space;1-0.25=0.75" /></p> <p style="text-align: center;"><img title="inf(w_2)=-log_2Pr(w_2)= -log_2\frac{1}{4}=2" src="https://latex.codecogs.com/gif.latex?inf(w_2)=-log_2Pr(w_2)=&space;-log_2\frac{1}{4}=2" /></p> <p style="text-align: justify;">Si osservi che la quantità di informazione semantica (inf) contenuta negli stati w coincide con l'informazione calcolata secondo Shannon dei subordinate-concepts del dynamic frame bird senza vincoli.</p> <p style="text-align: justify;"> </p>