Home
Notes
Traductions & Res.
eStudio
Vielbein
Latest notes...
Some notes on Relativity and other arguments
Informazione in un Dynamic Frame - con vincoli
<p style="text-align: justify;">In questa nota cercheremo di determinare l'informazione contenuta in un dynamic frame che presenta vincoli fra i suoi attributi.</p> <p style="text-align: justify;">In una nota precedente avevamo dimostrato che un dynamic frame può essere considerato come un insieme di probabilistic-ensembles che definiscono una distribuzione di probabilità fra variabili statistiche (gli attributi). I subconcetti vengono trattati come possibili outcomes del dynamic frame a cui è associata una probabilità. Il limite della descrizione precedente consiste nel fatto che abbiamo considerato il caso di un dynamic frame senza vincoli; è dunque obiettivo di questa nota prendere in considerazione anche tale caso.</p> <p style="text-align: justify;">Inoltre faremo nuovamente riferimento alla tassonomia di Ray del concetto di bird, che qui di seguito ripropongo. Il dynamic frame di un Bird è costituito da due attributi [beak, foot], ognuno dei quali può assumere due valori. Rappresentiamo tale frame nel modo seguente:</p> <p style="text-align: center;">Bird = {beak:[round, pointed]; foot:[webbed, clawed]}</p> <p style="text-align: justify;">Il frame descrive il superordinate-concept bird a cui corrispondono dei subordinate-concepts, a seconda di quali valori sono attivati. Nel caso della tassonomia di Ray i subordinate-concepts sono solo due, che andiamo qui di seguito ad elencare:</p> <p style="text-align: center;">Water Bird = {beak:round; foot:webbed}</p> <p style="text-align: center;">Land Bird = {beak:pointed, foot:clawed}</p> <p style="text-align: justify;">Inoltre esiste un vincolo che lega l'attributo beak con l'attributo foot, nel senso che quando si presenta il caso di un beak round si ha sempre un valore di foot webbed ed analogamnete quando si ha un beak pointed vi è sempre il caso di un foot clawed.</p> <p style="text-align: justify;">Come abbiamo indicato nella nota precedente un attributo di un dynamic frame può essere considerato come un probabilistic-ensemble, in cui i valori degli attributi sono equiprobabili; nel caso del concetto di bird avremo due ensembles che qui riproponiamo:</p> <p style="text-align: center;">beak --> (x, A_x, P_x) con A_x={round, pointed} e P_x={0.5, 0.5}</p> <p style="text-align: justify;">La medesima cosa vale anche per l'altro attributo.</p> <p style="text-align: center;">foot --> (y, A_y, P_y) con A_y={webbed, clawed} e P_y={0.5, 0.5}</p> <p style="text-align: justify;">Dobbiamo ora descrivere il vincolo che intercorre fra i due attributi. Per fare questo utilizziamo il concetto di <em>Conditional Probability</em> P(X|Y) che sta ad indicare la probabilità che X=x una volta che Y=y. Nel caso della tassonomia di Ray ci troviamo con un esempio semplice, infatti il vincolo fra gli attributi può essere descritto come:</p> <p style="text-align: center;"><img title="P(foot=webbed|beak=round)=1" src="https://latex.codecogs.com/gif.latex?P(foot=webbed|beak=round)=1" /><img title="P(foot=clawed|beak=pointed)=1" src="https://latex.codecogs.com/gif.latex?P(foot=clawed|beak=pointed)=1" /></p> <p style="text-align: justify;">Valgono anche le corrispondent relazioni:</p> <p style="text-align: center;"><img title="P(foot=webbed, beak=pointed)=0" src="https://latex.codecogs.com/gif.latex?P(foot=webbed,&space;beak=pointed)=0" /><img title="P(foot=clawed, beak=round)=0" src="https://latex.codecogs.com/gif.latex?P(foot=clawed,&space;beak=round)=0" /></p> <p style="text-align: justify;">Una volta nota la conditional probability, dobbiamo costruire la distribuzione di probabilità dell'intero frame, ma per fare questo ci viene in aiuto la fundamental rule del calcolo probabilistico:</p> <p style="text-align: center;"><img title="P(X,Y)=P(X|Y)*P(Y)" src="https://latex.codecogs.com/gif.latex?P(X,Y)=P(X|Y)*P(Y)" /></p> <p style="text-align: justify;">Si noti che ora ci troviamo di fronte al caso in cui le due variabili statistiche (beak e foot) non sono più indipendenti, ma vi è un vincolo espresso dalle conditional probabilities. La distribuzone di probabilità è dunque determinata nel modo seguente:</p> <p style="text-align: center;"><img title="P(beak=round,foot=webbed)= P(beak=round|foot=webbed)*P(foot=webbed)=1*0.5=0.5" src="https://latex.codecogs.com/gif.latex?P(beak=round,foot=webbed)=&space;P(beak=round|foot=webbed)*P(foot=webbed)=1*0.5=0.5" /></p> <p style="text-align: center;"><img title="P(beak=round,foot=clawed)=P(beak=round|foot=clawed)*P(foot=clawed)=0*0.5=0" src="https://latex.codecogs.com/gif.latex?P(beak=round,foot=clawed)=P(beak=round|foot=clawed)*P(foot=clawed)=0*0.5=0" /><img title="P(beak=pointed,foot=clawed)=P(beak=pointed|foot=clawed)*P(foot=clawed)=1*0.5=0.5" src="https://latex.codecogs.com/gif.latex?P(beak=pointed,foot=clawed)=P(beak=pointed|foot=clawed)*P(foot=clawed)=1*0.5=0.5" /><img title="P(beak=pointed,foot=webbed)=P(beak=pointed|foot=webbed)*P(foot=webbed)=0*0.5=0" src="https://latex.codecogs.com/gif.latex?P(beak=pointed,foot=webbed)=P(beak=pointed|foot=webbed)*P(foot=webbed)=0*0.5=0" /></p> <p style="text-align: justify;">La distribuzione di probabilità è inoltre simmetrica scambiando le due variabili statistiche:</p> <p style="text-align: center;">P(X,Y) = P(Y,X)</p> <p style="text-align: justify;">Veniamo ora a calcolare la quantità di informazione dell'intero dynamic frame, utilizzando la formula:</p> <p style="text-align: center;"><img title="H(X,Y)=\sum _{x\in A_x , y\in A_y}p(x,y) log_2\frac{1}{p(x,y)}" src="https://latex.codecogs.com/gif.latex?H(X,Y)=\sum&space;_{x\in&space;A_x&space;,&space;y\in&space;A_y}p(x,y)&space;log_2\frac{1}{p(x,y)}" /></p> <p style="text-align: justify;">che nel caso della tassonomia di Ray diviene:</p> <p style="text-align: center;"><img title="H(beak,foot)=2(0.5*log_2\frac{1}{0.5})=2(0.5*1)=1" src="https://latex.codecogs.com/gif.latex?H(beak,foot)=2(0.5*log_2\frac{1}{0.5})=2(0.5*1)=1" /></p> <p style="text-align: justify;">Si noti che nel caso dello stesso frame senza vincoli avevamo che H(beak, foot)=2 bit. Imponendo i vincoli la quantità di informazione necessaria per descrivere completamente il frame è inferiore; infatti è necessario indicare uno solo degli attributi e non l'altro.</p> <p style="text-align: justify;">Infine possiamo calcolare la quantità di informazione associata agli outcomes del dynamic frame (i subordinate concept) utilizzando la formula:</p> <p style="text-align: center;"><img title="h(x,y)=log_2\frac{1}{p(x,y)}" src="https://latex.codecogs.com/gif.latex?h(x,y)=log_2\frac{1}{p(x,y)}" /></p> <p style="text-align: justify;">che ci porta ad avere nel caso del water-bird - ma la stessa cosa vale anche per l'altro subordinate concept land-bird - il valore:</p> <p style="text-align: justify;"><img title="h(beak=round, foot=webbed)=log_2\frac{1}{p(beak=round, foot=webbed)}=log_2\frac{1}{0.5}=1" src="https://latex.codecogs.com/gif.latex?h(beak=round,&space;foot=webbed)=log_2\frac{1}{p(beak=round,&space;foot=webbed)}=log_2\frac{1}{0.5}=1" />Si noti che nel caso dello stesso frame senza vincoli avevamo che h(beak=round, foot=webbed)=2 bit. Imponendo i vincoli la quantità di informazione necessaria per descrivere i subordinate-concept è inferiore; infatti è necessario indicare uno solo degli attributi e non l'altro.</p>