Kontekstijakauma standardivaljassa

Standardivaljakos jakaa kontekstin niiden komponenttien kesken, jotka käsittelevät pyyntöä. Jokainen komponentti toimii omasta kontekstistaan, eikä valjaat automaattisesti sovita yhteen kontekstia ylimmällä tasolla. Tämä erottelu tarjoaa joustavuutta, mutta voi aiheuttaa päällekkäisiä viestejä tai vastauksia puuttuessa, jos tietoja ei palauteta erikseen itsenäisten komponenttien toimesta.

Tässä artikkelissa selitetään, miksi konteksti on hajautettu, miten GitHub Copilot -valjakos eroaa, miten konteksti liikkuu agentin orkestrointikerroksen ja komponentin välillä sekä mitä kukin komponentti voi nähdä ja palauttaa. Käytä tätä tietoa tunnistaaksesi kontekstiaukkoja ja suunnitellaksesi agentteja, jotka hallitsevat kontekstia tarkoituksellisesti.

Seuraava kaavio havainnollistaa, miten konteksti ja viestintä kulkevat orkestrointikerroksen, yksittäisten komponenttien ja käyttäjän välillä standardivaljakossa.

Kaavio, joka näyttää kontekstin ja viestinnän, joka kulkee orkestrointikerroksen, jokaisen komponentin ja käyttäjän välillä tavallisessa valjastusagentissa.

Muistio

Tässä artikkelissa kuvataan standardivaljaiden ominaisuuksia ja käyttäytymistä. Opi, miten pääset käsiksi standardeihin liittyviin ominaisuuksiin Accessin standardiagenteissa ja agenttivirroissa.

Valjaat pyörittävät kaikkea Copilot Studio:ssa rakennettua, ja valittu malli tarjoaa perustelut ja generoinnin. Harness on ajonaikainen järjestelmä, joka toimii näiden kahden välillä: se määrittää, milloin malli kutsutaan, mitkä komponentit lähetetään, tulkitsee mitä tulee takaisin ja kutsuu oikeat työkalut. Lue lisää Copilot Studio -valjaista.

Miksi standardivaljakko jakaa kontekstin

Vakiovaljaat on suunniteltu joustavuutta varten:

  • Se orkestroi tehtäviä ja tukee transaktionaalisia käyttötapauksia.
  • Se tasapainottaa deterministisen ohjauksen ja tekoälyn muuttujien, laukaisijoiden ja erikoisominaisuuksien kautta.
  • Se jakaa hallinnan komponenttien kesken, kuten aiheiden, tiedon, lapsiagenttien, yhdistettyjen agenttien ja työkalujen välillä.
  • Se tukee useita tunnistautumis-, kanava- ja integraatiovaihtoehtoja.

Työn jakaminen itsenäisten komponenttien kesken tarjoaa joustavuutta, mutta voi luoda aukkoja kontekstissa:

  • Agentin orkestrointikerros luovuttaa ohjauksen tiettyjen komponenttikutsujen aikana.
  • Kun komponentti käynnistyy, orkestrointikerros ei näe käyttäjän lähettämiä viestejä.
  • Orkestrointikerros ei sovita kontekstia ylimmällä tasolla.

Jos suunnittelu ei hallitse agentin kontekstia, syntyy aukkoja ja pyynnöt voivat jäädä vastaamatta. Nämä aukot voivat aiheuttaa päällekkäisiä tai puuttuvia vastauksia.

Miten GitHub Copilot -valjasto eroaa

GitHub Copilot -valjastuksen orkestrointikerros välttää kontekstin ristiriidan olemalla ainoa kommunikoija käyttäjän kanssa. Se ei koskaan anna yhdistetyn agentin ottaa viestintää haltuunsa:

  • Päättely- ja viestintäsilmukka toimii ilman tarkoituksellista kontekstinhallintaa.
  • Yhdistetyt agenttiviestit kulkevat vanhemman tekoälykerroksen läpi joka käänteessä.

GitHub Copilot -sarjan orkestrointikerros käsittelee myös kontekstikokoa eri tavalla, mikä tekee sen kontekstista moninkertaisesti suuremman kuin vakiovaljaston:

  • Sillä on suora pääsy mallikontekstiin.
  • Se voi käyttää tiivistämistä.
  • Se voi kirjoittaa tietoja ja tiedostoja Bash-hiekkalaatikkosäiliöönsä.

Miten konteksti siirtyy komponentteihin ja palaa orkestrointikerrokseen

Kontekstin tehokkaaksi hallintaan standardivaljassa tarkastella, mitä orkestrointikerros siirtää komponentille ja mitä komponentti palauttaa.

Konteksti siirtyy komponenteille kahdella tavalla:

  • Eksplisiittiset syötteet ja pyynnöt: Orkestrointikerros täyttää kunkin komponentin syötteet sen aktiivisesta kontekstista ja välittää pyynnön suunnitellusti.

  • Implisiittinen keskustelukonteksti: Orkestrointikerros siirtää myös pidemmän keskustelukontekstin komponenteille, kuten tietoon, ja aliagenteille ilman eksplisiittistä konfiguraatiota. Huomaa, että lapsiagentti vastaanottaa aina vanhempien keskustelukontekstin. Yhdistetyllä agentilla on asetus, joka sisältää tai sulkee sen pois. Työkalu tai virtaus vastaanottaa vain syötteensä.

Komponentti lähettää tietoa orkestrointikerrokselle kahdella tavalla:

  • Eksplisiittiset tulokset ja vastaus suunnitellusti mukaan.
  • Implisiittinen konteksti tietyistä komponenteista.

Se, mitä komponentti näyttää käyttäjälle vain tai pitää vain omassa muuttujassaan, ei välttämättä koskaan pääse orkestrointikerrokseen, ellei se palaa toisen näistä kahdesta kanavasta.

Implisiittinen tiedonvälitys aiheuttaa noin puolet tapauksista, joissa vastauksia on päällekkäisin tai menetettyinä, koska komponentti voi toimia pyynnöstä, jota ei ole sille nimenomaisesti annettu.

Miten konteksti vaihtelee eri komponenttien välillä

Käyttäjän näkyvä keskustelu ja orkestrointikerroksen konteksti menevät päällekkäin, mutta ne eivät ole sama asia. Seuraavat periaatteet pätevät siihen, mikä saavuttaa orkestrointikerroksen kontekstin komponenttikutsusta:

  • Se, mitä komponentti pitää itsellään, pysyy piilossa. Aihemuuttujat ja monikierroskeskustelut aliagenttien sisällä ovat komponentin sisällä. Orkestrointikerros näkee ne vain, jos ne palautetaan ulostuloina.

  • Vain kaksi tietotyyppiä palautuu. Orkestrointikerros vastaanottaa komponentilta suunnitellut eksplisiittiset ulostulot sekä implisiittiset kontekstit. Komponentti, joka toimii mutta ei palauta mitään, voi jättää orkestrointikerroksen tietämättömäksi tapahtuneesta.

Jokaisella komponentilla on oma kontekstinsa tai näkökulmansa. Orkestrointikerros käyttää aktiivista kontekstiaan askelten valintaan ja syötteiden tuottamiseen. Yhdistetyllä agentilla on oma orkestrointikerros, omat käskyt sekä omat sisäiset työkalu- ja tietokutsunsa.

Käytä seuraavaa taulukkoa esittääksesi tarkan kysymyksen: Millä komponentilla on tietty fakta aktiivisessa kontekstissaan?

Näkökulma On aktiivisessa kontekstissaan Voin kirjoittaa chat-paneeliin Voi palata kontekstina
orkestrointikerros Käyttäjäpyyntö, keskustelukonteksti, komponenttikuvaukset, syötekuvaukset, tulostuskuvaukset, suunnitelman tila, implisiittiset vastaukset (mutta ei sitä, onko implisiittinen tieto näytetty käyttäjälle) Kyllä. Omat kysymyksensä ja vastauksensa. Omat kysymyksensä, vastauksensa, perustelunsa ja suunnitelmansa.
Aihe Aihemuuttujat, nykyinen solmun tila Kyllä. Viestisolmujen, kysymyssolmujen ja Ask with Adaptive Cardin kautta. Aiheen ulostulot ja implisiittiset viestinvaihdot, jotka voivat silti aiheuttaa päällekkäisyyttä.
Työkalu vai virtaus Orkestrointikerroksen tuottamat syötteet Nro Työkalun tai työnkulun tulosteet.
Tietoaskel Käyttäjäpyyntö sekä agentin aktiivinen konteksti Nro Se kirjoittaa omalle agentilleen, ei chat-paneelille. Sen vastaus.
Generatiivinen vastaussolmu (aiheen sisällä) Mitä sen syötteessä lähetetään sekä agentin konteksti Kyllä. Suoraan tai aihemuuttujalle. Ei suoraan, vaan voi toistua.
Aliagentti (lapsi tai siihen liitetty agentti) Sen alkuperäinen pyyntö, vanhempien antamat syötteet ja mahdollinen vanhempien konteksti omassa orkestrointikerroksen kontekstissaan Kyllä, jos se on konfiguroitu tai käsketty vastaamaan suoraan. Vastaus ja sen tulokset.

Important

Aiheet: Aiheiden palauttama implisiittinen konteksti sisältää vain selväkielistä tietoa, mutta ei sitä, näkikö käyttäjä sen. Selvä tekstitieto voi tulla viestisolmuista, kysymyssolmuista, adaptiivisen kortin sisällöstä ja käyttäjän kirjoittamista vastauksista. Kuitenkin Adaptive Card -toimintopainikkeet ja käyttäjän vuorovaikutukset niiden kanssa eivät yllä standardivaljaiden kontekstiin. Adaptiivinen korttien käsittely aiheuttaa suurimman osan kontekstin ristiriidoista. Älä luota korttien sisältöön kontekstina. Sen sijaan palauta kaikki myöhemmän vaiheen tarvitsema tieto aihelähtönä ja aseta vastaustila. Lue lisää Design-aiheista miniagentteina, jotka välttävät päällekkäiset viestit.

Aliagentit: Kun vanhempi konteksti siirretään yhdistetylle agentille, se voi vaikuttaa jokaiseen agentin tekemään työkaluun, aiheeseen ja tietokutsuun. Jos mukana oleva konteksti sisältää edelleen pyynnön, johon vaikuttaa siltä, ettei siihen ole vastattu, yhdistetty agentti saattaa yrittää kompensoida ja vastata siihen uudelleen. Lapsiagentilla on sama riski, mutta vähemmän kontrollia. Se kulkee vanhemman sisällä ja vastaanottaa aina vanhemman keskustelukontekstin, ilman asetusta, joka poistaisi sen. Lue lisää Design-aliagenteista, jotka välttävät päällekkäisviestejä.

Seuraava vaihe

Tämän kontekstimallin valossa seuraava artikkeli tässä sarjassa selittää, miksi malli aiheuttaa päällekkäisiä viestejä ja ehdottaa suunnittelumalleja niiden estämiseksi.

Suunnittele parhaat käytännöt päällekkäisten viestien välttämiseksi

  • Last updated on