Operatiivinen agentin läpinäkyvyysmuistio

Mikä on läpinäkyvyysmuistio?

Tekoälyjärjestelmä kattaa paitsi teknologian myös ne ihmiset, jotka sitä käyttävät, ne, joihin se vaikuttaa, sekä ympäristön, jossa se on käytössä. Järjestelmän luominen, joka sopii sen tarkoitusta varten, vaatii ymmärrystä siitä, miten teknologia toimii, mitkä ovat sen kyvyt ja rajoitukset sekä miten saavuttaa paras suorituskyky. Microsoftin läpinäkyvyysmuistiinpanot auttavat sinua ymmärtämään, miten tekoälyteknologiamme toimii, millaisia valintoja järjestelmän omistajat voivat tehdä, jotka vaikuttavat järjestelmän suorituskykyyn ja käyttäytymiseen, sekä koko järjestelmän, mukaan lukien teknologian, ihmisten ja ympäristön, merkityksen. Käytä läpinäkyvyysmuistioita kehittäessäsi tai ottaessasi käyttöön omaa järjestelmääsi, tai jaa ne niille, jotka käyttävät järjestelmääsi tai joita se koskettaa.

Microsoftin läpinäkyvyysmuistiinpanot ovat osa laajempaa Microsoftin pyrkimystä toteuttaa tekoälyperiaatteitamme käytännössä. Lisätietoja löytyy Microsoftin tekoälyperiaatteista.

Real-Time Intelligence Operations -agentin perusteet

Esittely

Real-Time Intelligence Operations -agentti on alusta, jolla luodaan agentteja, jotka seuraavat datavirtoja, havaitsevat poikkeavuuksia tai olosuhteita ja suosittelevat toimia todellisten tapahtumien perusteella. Nämä agentit automatisoivat tehtäviä, tarjoavat näkemyksiä ja tukevat ajantasaista päätöksentekoa. Määrittämällä liiketoiminnan tavoitteet, tiedonlähteet, toiminnot ja ohjeet agentti luo suunnitelman tavoitteiden seuraamiseksi, datan seuraamiseksi ja sääntöjen soveltamiseksi olosuhteiden havaitsemiseksi. Agentti ilmoittaa käyttäjille suositellut toimenpiteet, jos sopivat olosuhteet ilmenevät.

Tärkeimmät termit

  • Tietolähde: Tietokantayhteys, jota agentti voi käyttää datan löytämiseen ja seurantaan.

  • Työkalu: Sisäänrakennettu toiminnallisuus, jonka avulla agentti voi suorittaa tehtäviä, kuten luoda jäsenneltyjä kyselyitä luonnollisesta kielestä, suorittaa poikkeamien havaitsemista sekä lähettää Microsoft Teams- tai sähköpostiviestejä.

  • Ketju: Keskustelusessio agentin ja käyttäjän välillä. Säikeet tallentavat viestejä ja hoitavat automaattisesti katkaisun, jotta sisältö sovitetaan mallin kontekstiin.

  • Playbook: Agentin sisäinen esitys niistä entiteetteistä, tiedoista, säännöistä ja mahdollisista toiminnoista, jotka muodostavat sen käyttöohjeen.

  • Entiteetti: Objekti yrityksessäsi, jota agentti valvoo. Esimerkiksi pyörävuokrausyrityksessä pyörät ja telakointiasemat voivat olla merkityksellisiä toimijoita. Lentokentän johdossa lähtöselvitysjonot, turvatarkastuspisteet ja matkustajat ovat olennaisia toimijoita.

  • Tapaukset: Tietyt esiintymiset jollakulle, kuten Bike 0451 tai Flight MS1234.

  • Säännöt: Olosuhteet tai kuviot datassa, joita agentti seuraa ennen suositusten antamista.

  • Autonomiset säännöt: Säännöt, joihin liittyy toimintoja, joita agentti saa tehdä ilman ihmisen vahvistusta.

Ominaisuudet

Järjestelmän toiminta

Kun luot operatiivista agenttia, määrität seuraavat asetukset: liiketoimintatavoitteet, tiedonlähteet, mahdolliset toimenpiteet ja ohjeet. Näiden syötteiden avulla agentti käyttää suuria kielimalleja (LLM) luodakseen pelikirjan entiteetteistä, kartoitetuista datasta ja säännöistä, joita seurataan. Voit hioa mallia säätämällä tavoitteita ja ohjeita. Kun aktivoit agentin, agentti seuraa dataa taustalla. Kun olosuhteet vastaavat sääntöjä, se analysoi tiedot, tunnistaa syyn ja suosittelee toimia liiketoiminnan tavoitteiden saavuttamiseksi.

Agentti ilmoittaa sinulle Teamsin kautta luonnollisen kielen hälytyksillä, pitäen sinut ajan tasalla alkuperäisistä suosituksista. Voit hyväksyä, hylätä tai tehdä säännöstä autonomisen, jolloin agentti voi toimia ilman lisävahvistusta.

Koska agentti käyttää LLM:iä agentin pelikirjan luomiseen ja toimien suosittelemiseen, sinun pitäisi:

  • Käy käyttäytymismalli huolellisesti läpi ennen agentin aloittamista.

  • Seuraa tarkasti agentin suosituksia ja varmista perustelut, joilla se antaa suosituksia ennen kuin ryhtyy toimiin.

  • Käy huolellisesti läpi kaikki autonomiset säännöt, jotka luot agentin kanssa. Nämä säännöt ohjaavat toimintaa automaattisesti.

Käyttötapaukset

Aiotut käyttötarkoitukset

Voit käyttää operaatioagentteja erilaisissa tilanteissa. Järjestelmän käyttötarkoituksia ovat seuraavat:

  • Pyörävuokrauksen hallinta: Voit konfiguroida operaatioagentin seuraamaan jatkuvasti pyörien saatavuutta eri asemilla reaaliaikaisen datan avulla. Aseta tavoite pyörien saatavuuden varmistamiseksi, jotta se löytää oikeat kyselyt kunkin telakointiaseman arvon seuraamiseen.

  • Tuuliturbiinien optimointi: Agentti seuraa tuulivoimaloilta tulevaa dataa, seuraa mittareita kuten tehoa sekä lapojen suuntaa ja kulmaa. Se etsii poikkeavuuksia tai tehotason laskuja ja suosittelee käyttöparametrien säätöjä.

  • Varastovaraston tasapainotus: Välittäjä seuraa varastotasoja useissa varastoissa reaaliajassa. Aseta tavoite optimaalisen varastojakauman ylläpitämiseksi ja varastojen loppumisen tai ylikuormituksen välttämiseksi.

  • Kulujen seuranta: Anna agentille pääsy tietoihin kulupyynnöistä ja raporteista. Pyydä sitä merkitsemään kulut, jotka eivät noudata yleisiä sääntöjä, ja havaitsemaan poikkeavuuksia pidemmän aikavälin malleissa jokaiselle työntekijälle tai kustannuskeskukselle.

  • Häiriötilanteisiin reagointiautomaatio: Agentti seuraa IT-infrastruktuurin lokkeja ja telemetriaa palvelun heikkenemisen tai tietoturvapoikkeamien merkkejä varalta. Sen tavoitteena on lyhentää keskimääräistä havaitsemisaikaa (MTTD) ja keskimääräistä ratkaisuaikaa (MTTR).

Huomioitavaa muita käyttötapauksia valitessa

Kannustamme sinua käyttämään operatiivisia agentteja innovatiivisissa ratkaisuissasi tai sovelluksissasi. Ota kuitenkin huomioon seuraavat tekijät varmistaaksesi, että aine sopii juuri sinun käyttötapaukseesi:

  • Vältä tilanteita, joissa järjestelmän käyttö tai väärinkäyttö voisi aiheuttaa merkittävää fyysistä tai psyykkistä vahinkoa yksilölle. Esimerkiksi skenaariot, jotka diagnosoivat potilaita tai määräävät lääkkeitä, voivat aiheuttaa merkittävää haittaa.

  • Vältä tilanteita, joissa järjestelmän käyttö tai väärinkäyttö voisi vaikuttaa merkittävästi elämänmahdollisuuksiin tai oikeudelliseen asemaan. Esimerkkejä ovat tilanteet, joissa tekoälyjärjestelmä tai agentti voi vaikuttaa yksilön oikeudelliseen asemaan, oikeuksiin tai hänen pääsyynsä luottoon, koulutukseen, työllistymiseen, terveydenhuoltoon, asumiseen, vakuutuksiin, sosiaaliturvaetuuksiin, palveluihin, mahdollisuuksiin tai niiden tarjoamiin ehtoihin.

  • Vältä korkean panoksen tilanteita, jotka voivat johtaa vahinkoon. Agentissa käytetty malli voi heijastaa tiettyjä yhteiskunnallisia näkemyksiä, ennakkoluuloja ja muuta ei-toivottua sisältöä, joka esiintyy koulutusdatassa tai kehotteen esimerkeissä. Tästä syystä varoitamme käyttämästä agentteja korkean panoksen tilanteissa, joissa epäreilu, epäluotettava tai loukkaava käytös voi olla kallista tai aiheuttaa vahinkoa.

  • Harkitse tarkasti käyttötapauksia korkean panoksen alalla tai toimialalla, jossa agentin toimet ovat peruuttamattomia tai erittäin merkittäviä. Tällaisia toimialoja ovat muun muassa terveydenhuolto, lääketiede, rahoitus tai oikeudelliset alat.

  • Oikeudelliset ja lainsäädännölliset näkökohdat. Organisaatioiden tulee arvioida mahdollisia erityisiä oikeudellisia ja sääntelyvelvoitteita käyttäessään tekoälypalveluita ja -ratkaisuja, jotka eivät välttämättä sovellu kaikille toimialoille tai skenaarioille. Rajoitukset voivat vaihdella alueellisten tai paikallisten sääntelyvaatimusten mukaan. Lisäksi tekoälypalveluja tai ratkaisuja ei ole suunniteltu eikä niitä saa käyttää soveltuvissa palveluehdoissa ja asianmukaisissa toimintasäännöissä kielletyllä tavalla.

Rajoitukset

Tekniset rajoitukset, toimintatekijät ja alueet

  • Huolimatta OpenAI:n intensiivisestä koulutuksesta ja Microsoftin vastuullisten tekoälykontrollien käyttöönotosta, tekoälypalvelut ovat virheellisiä ja todennäköisyyspohjaisia. Tämä rajoitus tekee kaiken sopimattoman sisällön täydellisestä estämisestä haastavaa, mikä voi johtaa mahdollisiin ennakkoluuloihin, stereotypioihin tai perusteettomuuteen tekoälyn tuottamassa sisällössä. Lisätietoja tekoälyn tuottaman sisällön tunnetuista rajoituksista löytyy Azure OpenAI:n läpinäkyvyyshuomautuksesta, joka sisältää viittauksia operaatioagenttien taustalla oleviin LLM-malleihin.

  • Voit antaa operaatioagenteille laajan valikoiman ohjeita ja tavoitteita. LLM-käyttäytymismallien todennäköisyyspohjaisuus tarkoittaa, ettet välttämättä pysty sovittamaan agentteja vaatimuksiisi. Agentin käyttäytymismallin kuvaus on myös luotu tekoälyllä, joten se ei välttämättä ole täysin tarkka.

  • Operaatioagenttien tehokkaaseen käyttämiseen tarvitaan koulutusta, jotta voit olla vuorovaikutuksessa palvelun kanssa ja hyötyä palvelusta.

  • Kehittyneet tekoälymallit vaativat merkittäviä laskentaresursseja, mikä voi vaikuttaa suorituskykyyn erityisesti resurssirajoitetuissa ympäristöissä. Saatat kohdata viivettä tai suorituskykyongelmia huippukäyttöaikoina.

  • Koska agentit yhdistävät LLM:t ulkoisiin järjestelmiin, voi olla vaikea ymmärtää, miksi se valitsi tietyt työkalut tai työkalujen yhdistelmät vastaamaan kyselyyn. Tämä haaste vaikeuttaa luottamusta ja agentin tulosten tai toimien varmistamista.

  • Organisaatioiden tulee ottaa huomioon omat oikeudelliset ja vaatimustenmukaisuusvelvoitteensa käyttäessään operatiivisia agentteja, erityisesti säännellyillä toimialoilla. Microsoft tutkii sääntelyvaatimuksia, jotka koskevat Microsoftia teknologian tarjoajana, ja käsittelee niitä tuotteen sisällä jatkuvan parannusprosessin kautta.

  • Agentin käyttökokemuksen kautta voit nopeasti keskeyttää tai sulkea agentin milloin tahansa. Tämä toimenpide lopettaa kaikkien uusien tietojen ja uusien toimenpiteiden valvonnan, joita agentti saattaa suositella tai tehdä. Toiminnot, joita agentti kutsui muissa järjestelmissä (esimerkiksi Power Automate -työnkulun käynnistäminen), eivät välttämättä pysähdy heti. Agentti käynnistää nämä toiminnot itsenäisinä prosesseina, joita sinun tulee hallita muissa tuotekokemuksissa.

  • Viestit agentin ja käyttäjän välillä toimitetaan Teamsin kautta. Kun lähetät viestejä agentille, Azure Bot Service käsittelee viestit. Azure AI Bot Servicen käytössä on tekninen rajoitus, että jokaisella botilla voi olla vain yksi globaali päätepiste. Teamsin ensimmäisen osapuolen bottien kohdalla pyynnöt lähetetään globaaliin päätepisteeseen ja ohjataan sitten alueelliselle päätepisteelle lähelle käyttäjää. Operatiiviset agentit käyttävät päätelaitetta, joka sijaitsee EU:ssa, mikä tarkoittaa, että käyttäjätietosi voidaan siirtää maantieteellisen alueesi ulkopuolelle käsiteltäväksi.

Järjestelmän suorituskyky

Tekoälyjärjestelmissä suorituskyky liittyy usein tarkkuuteen (siihen, kuinka usein järjestelmä tuottaa oikeat tulokset). Operaatioagenttien suorituskyky on joustavampaa, koska käyttäjät saattavat tulkita tuloksia eri tavoin. Virheitä syntyy tyypillisesti, kun agentti ymmärtää väärin tavoitteita, dataa tai liiketoimintaprosessin keskeisiä osa-alueita. Kun asiakaspalvelija antaa suosituksia, käyttäjien tulisi huolellisesti tarkistaa annettu konteksti ennen toimenpiteiden hyväksymistä.

Parhaat käytännöt järjestelmän suorituskyvyn parantamiseen

Parhaan tuloksen saavuttamiseksi operatiivisten agenttien kanssa keskity luomaan yksityiskohtaisia ja hyvin jäsenneltyjä kehotuksia. Antamasi tavoitteet ja ohjeet auttavat agenttia tunnistamaan oikeat tietopisteet ja säännöt muutosten seurantaan ajan kuluessa. Paranna tarkkuutta määrittelemällä eksplisiittisesti ne datan arvot ja olosuhteet, joita agentin tulisi seurata. Kuvaa selkeästi, miten toimet vaikuttavat tuloksiin ja miten valvottujen arvojen odotetaan muuttuvan.

Laadukas data on yhtä tärkeää. Varmista, että tietorakenteet ovat hyvin järjestettyjä, ja niissä on merkityksellisiä sarakkeennimiä koodattujen arvojen sijaan. Litistä sisäkkäisiä tapahtumien dataa mahdollisuuksien mukaan. Tämä rakenne helpottaa agentin löytämistä ja valvontaa olennaisesta sisällöstä.

Operatiivisten agenttien arviointi

Arviointimenetelmät

Operatiivinen agenttialusta käyttää vaativaa, monivaiheista prosessia tarkkuuden, turvallisuuden ja jatkuvan parantamisen arviointiin. Sen ytimessä on kolmivaiheinen sykli: jäljen>iteraation>arviointi. Tämä sykli alkaa telemetrian käyttöönotolla agentin päätöksentekoprosessien seuraamiseksi, mukaan lukien suunnittelu, ontologian muodostaminen, datan perustaminen, sääntöjen generointi ja toteutus. Arviointiaineistot perustuvat todellisiin käyttötapauksiin ja synteettisiin tietoihin, jotka tuovat vaihtelua. Mittaat mittareita, kuten tarkkuutta, konvergenssia, vikaantumisprosentteja ja turvallisuutta koko agentin elinkaaren ajan, kehityksestä tuotantoon.

Arviointiympäristö heijastaa tuotantoolosuhteita ja korostaa kehitys- ja arviointiputkien erottelua harhan välttämiseksi. Kuratoit manuaalisesti alkuperäiset aineistot ja määrittelet odotetut ontologiat ja tulokset etukäteen. Myöhemmin näitä aineistoja skaalaat synteettisen generoinnin avulla. Aineistot keskittyvät operatiivisiin tavoitteisiin, jotka liittyvät liiketoiminnan seurantaan ja päätöksentekoon. Vaikka ne edustavat todellisia tilanteita, ne eivät vielä sisällä laajempia käyttäjämääriä tai dynaamisia tavoiteasetuksia. Tämä lähestymistapa pitää arvioinnit fokusoituneina, toistettavina ja vastuullisen tekoälyn periaatteiden mukaisesti.

Arviointitulokset

Arviointiprosessimme käyttävät rakenteellista >>. Sisällytämme arvioinnit jokaiseen agentin päätöksenteon vaiheeseen. Nämä arvioinnit vahvistivat, että agentti tuottaa johdonmukaisesti tarkkoja ontologioita, tuottaa päteviä ja relevantteja kyselyitä sekä valitsee käyttäjän tavoitteiden mukaisia sopivia toimintoja. Nämä tulokset tukevat järjestelmän yhteensovittamista vastuullisuustavoitteiden kanssa, erityisesti varmistaen, että se toimii odotetusti todellisissa operatiivisissa tilanteissa.

Arvioinnissa käytetyt koulutus- ja testiaineistot oli huolellisesti koottu heijastamaan laajaa kirjoa operatiivisia skenaarioita. Rakennit manuaalisesti alkuperäiset aineistot todellisista käyttötapauksista, joissa on selkeästi määritelty odotetut tulokset, mukaan lukien ontologiat ja kyselytulokset. Myöhemmin laajensit näitä aineistoja käyttämällä synteettistä tuotantoa vaihtelun ja kattavuuden lisäämiseksi. Suunnittelit aineistot kuvaamaan niitä tavoitteita ja dataympäristöjä, joita agentin odotetaan kohtaavan, mukaan lukien skeeman monimutkaisuuden, datan saatavuuden ja käyttäjän aikomuksen vaihtelut. Tämä lähestymistapa varmisti, että arviointi kattoi edustavan kirjon operatiivisia tekijöitä ja ympäristöjä, tukien vastuullista järjestelmän kehitystä ja käyttöönottoa.

Arviointitulokset vaikuttivat useisiin järjestelmän keskeisiin suunnittelurajoitteisiin. Esimerkiksi otimme käyttöön rajoitukset maksimikyselykoolle ja ontologian minimikompleksisuudelle varmistaaksemme johdonmukaisen suorituskyvyn ja vähentääksemme vikamääriä. Vaikka tulokset soveltuvat laajasti moniin operatiiviseen seurantaan ja päätöksenteon tukiskenaarioihin, alkuperäinen arviointi ei sisältänyt joitakin osa-alueita, kuten dynaamista tavoitteiden uudelleenkonfigurointia ja moniagenttien yhteistyötä. Nämä alueet tarjoavat mahdollisuuksia tulevaan testaukseen ja kehitykseen.

Operatiivisten agenttien arviointi ja integrointi käyttöösi

Agentin käyttäytymistä muokkaavat antamasi ohjeet, tavoitteet, tiedot ja toimet. Tarkat kehotteet ja selkeät, hyvin järjestetyt tiedot intuitiivisilla sarakkeiden nimillä parantavat tarkkuutta ja vähentävät virheitä.

Kun olet konfiguroinut agentin, varmista agentin käyttäytymismallit ja säännöt tarkistamalla KQL-kyselyt varmistaaksesi linjan liiketoimintaprosessien kanssa. Vaikka sääntöpohjaiset olosuhteet laukaisevat agentin, sen LLM:n tuottamat suositukset voivat sisältää epätarkkuuksia, joten tarkista aina tulokset ennen toimimista.

Erittäin reagoivat agentit voivat johtaa liialliseen ilmoituksiin tai automatisoitujen toimintojen liialliseen käyttöön, mikä voi aiheuttaa järjestelmän epävakautta. Riskien vähentämiseksi säädä sääntöjä, tehdä säännöllisiä auditointeja, simuloida poikkeustapauksia ja suunnitella käyttöliittymiä, jotka edistävät läpinäkyvyyttä. Esimerkiksi, näytä luottamuspisteet ja selkeät selitykset suosituksille.

Liittyvä sisältö

  • Last updated on