Linear Coding, Applications and Supremus Typicality

Abstract: Detta arbete börjar med att presentera en kodningssats gällande linjärkodning över ändliga ringar för kodning av korrelerade diskretaminneslösa källor. Denna sats inkluderar som specialfall motsvarandeuppnåbarhetssatser från Elias och Csiszár gällande linjär kodning överändliga kroppar. Dessutom visas det att för varje uppsättning av ändligakorrelerade diskreta minneslösa källor, så finns alltid en sekvens avlinjära kodare över vissa ändliga icke-kropp-ringar som uppnårdatakompressionsgränsen bestämd av Slepian-Wolf-regionen. Därmed slutervi problemet med linjär kodning över ändlig icke-kropps-ringar föri.i.d. datakomprimering med positiv bekräftelse gällande existens.Vi studerar också kodning av funktioner, där avkodaren är intresseradav att återskapa en diskret mappning av data som genererats av flerakorrelerade i.i.d. källor och som kodats individuellt. Vi föreslårlinjär kodning över ändliga ringar som en alternativ lösning på dettaproblem. Vi visar att linjär kodning över ändliga ringar presterarbättre än sin ändliga-kropp-motsvarighet, liksom dessutomSlepian-Wolf-kodning, i termer av att uppnå bättre kodningshastigheterför kodning av flera diskreta funktioner.För att generalisera ovannämnda genomförbarhetssatser, både gällandedatakompression och funktionskodningsproblemet, till Markov-källor(homogena irreducerbara Markov-källor), så introducerar vi ett nyttkoncept gällande klassificering av typiska sekvenser, benämndSupremus-typiska sekvenser. Den asymptotiska likafördelningsprincipensamt en generaliserad version av typiskhets-hjälpsatsen förSupremus-typiska sekvenser bevisas. Jämfört med traditionell (stark ochsvag) typiskhet, så tillåter Supremus-typiskhet oss att härleda bättretillgängliga verktyg och resultat, som låter oss bevisa att linjärkodning över ringar är överlägsen andra metoder. I motsats härtillmisslyckas argument baserade på den traditionella versionen antingen medatt nå liknande resultat eller så är de härledda resultaten svåra attanalysera på grund av en utmanande utvärdering av entropitakt.För att ytterligare undersöka den grundläggande skillnaden mellantraditionell typiskhet och Supremus-typiskhet och dessutom göra våraresultat än mer allmänt gällande, så betraktar vi ävenasymptotiskt medelvärdesstationära ergodiska källor. Våra resultat visaratt en inducerad transformation med avseende på en ändligt mätbar mängdöver ett rekurrent asymptotiskt medelvärdesstationärt dynamiskt systemmed ett sigma-ändlig sannolikhetsmått är asymptotisktmedelvärdesstationär. Följaktligen så gällerShannon-McMillan-Breiman-teoremet, liksom Shannon-McMillan-teoremet, föralla reducerade processer härledda ur rekurrenta asymptotisktmedelvärdesstationära stokastisk processer. Alltså ser vi att dettraditionella typiskhetkonceptet endast realiserarShannon-McMillan-Breiman-teoremet i ett globalt hänseende, medanSupremus-typiskhet leder till att resultatet håller samtidigt även föralla härledda reducerade sekvenser.