Slipp Kraken løs: Få kunstig intelligens enkelt inn i ethvert industrisystem

Det er stor interesse for å implementere kunstig intelligens (AI) og maskinlæring (ML)-applikasjoner i industrimiljøer for å øke produktiviteten og effektiviteten og samtidig oppnå besparelser i driftskostnadene. Som enhver ingeniør eller ingeniørsjef vil fortelle deg, er det imidlertid tre hovedproblemer som må løses når det gjelder å legge «smart» til en installert base av «dumme» maskiner, fra motorer til ventilasjonssystemer (HVAC).

For det første er det ikke nok mennesker med AI- og ML-kompetanse til å tilfredsstille etterspørselen og eksperter som er tilgjengelige, er ikke billige. For det andre er det mangel på kvalifiserte datasett for å trene AI- og ML-systemer, eventuelle datasett som er tilgjengelige, er vanskelige å få tilgang til. For det tredje har AI- og ML-systemer tradisjonelt krevd high-end prosesseringsplattformer for å kjøres på.

Det som trengs, er en måte å gjøre det mulig for eksisterende ingeniører og utviklere uten AI- og ML-erfaring å raskt kunne lage AI- og Ml-systemer, for så å kunne sette dem effektivt ut i live, med lave kostnader mikrostyrings-plattformer. En interessant nyoppstartet virksomhet kalt Cartesiam.AI tar tak i alle disse problemene med NanoEdge AI Studio. La meg forklare hvordan.

Kvantifiserer økningen av AI og ML

I midten av 2020, avhengig av kilden, forventes det å være mellom 20 og 30 milliarder edge-enheter (inngangspunktenheter for nett) over hele verden,^1,2 der uttrykket «edge-enhet» refererer til tilkoblede enheter og sensorer som ligger på inngangspunkt for internett, der er de grensesnitt mellom en bedrifts- eller tjenesteleverandørens kjernenettverk den virkelige verden. Av disse vil bare rundt 0,3 % bli utvidet med AI- og ML-evner. Det er videre anslått at det vil være hvor som helst mellom 40 og 75 milliarder slike enheter innen 2025,^3,4 på hvilket tidspunkt forventes det at minst 25 % vil være utstyrt med AI- og ML-evner.

En stor faktor med hensyn til industrielle distribusjoner er å ta eksisterende «dumme» maskiner og gjøre dem «smarte» ved å utvide dem med AI- og ML-evner. Det er vanskelig å overdrive potensialet her; for eksempel anslås det at det i dag finnes «dum» infrastruktur og «dumme » maskiner for 6,8 billioner dollar (63 billioner norske kroner) bare i USA.⁵

Hvordan gjøre AI og ML mer effektive enheter på inngangspunktet

Tingenes internett (Internet of Things – IoT) og Industriell IoT (Industrial Internet of Things – IIoT) er allerede gjennomgripende og enheter blir allerede koblet sammen – neste utfordring er å gjøre disse objektene smarte.

Den tradisjonelle måten å lage en AI/ML-applikasjon på er å definere en nevral nettverksarkitektur, inkludert antall nevrale lag, antall nevroner per lag, og måtene de forskjellige nevronene og lagene er koblet sammen på. Neste trinn er å få tilgang til et kvalifisert datasett (som det i selv kan ha tatt enorme mengder tid og ressurser å opprette). Datasettet brukes til å trene nettverket i skyen (dvs. ved å bruke et stort antall high-end-servere med en enorm beregningsevne). Til slutt blir det trente nettverket oversatt til en form som er egnet for distribusjon i edge-enheten (inngangspunktenheten).

I følge IBM Quant Crunch-rapporten⁶ er ikke data vitenskap og analyser (data science and analytics – DSA) lenger moteord; men de er snarere viktige forretningsverktøy. Imidlertid er det en økende bekymring for at tilgangen på personer med DSA-ferdigheter henger farlig bak etterspørselen, med mangel på dataforskere som for tiden er på 130 000 bare i USA.

Dessverre er mangel på tilgang til dyktige dataforskere og kvalifiserte datasett hindringer for den raske og rimelige etableringen av AI/ML-aktiverte smartobjekter. I følge Cisco⁷ er feilraten for IoT-prosjekter generelt er rundt 74 %, denne sviktraten øker med hensyn til AI/ML-aktiverte prosjekter.

I følge IDC⁸ det er rundt 22 millioner programvareutviklere i verden. Av disse fokuserer omtrent 1,2 millioner på integrerte systemer, og av disse igjen – er det bare rundt 0,2% som innehar AI/ML-ferdigheter og de er minimale.

Noen AI- og ML-systemer, for eksempel maskinvisjon som utfører objektdeteksjon og identifikasjon, krever bruk av spesielle, avanserte beregningsapparater, inkludert grafikkprosesseringsenheter (GPU-er) og/eller feltprogrammerbare portmatriser (field-programmable gate arrays – FPGA). Imidlertid innebærer nyutvikling i AI/ML-teknologier at de aller fleste ikke-visuelle AI/ML-applikasjoner kan distribueres på de relativt avanserte mikrostyringene som er fremtredende i innebygde systemer.

Ifølge Statista,⁹ forventes det i 2020 bli sendt ut cirka 28 milliarder mikrostyringer (det er rundt 885 hvert sekund). Dette gjør mikrostyringsbaserte plattformer til den maskinvaren som preger markedet mest. Med sine lave pris og lave strømforbruk er mikrostyringer den perfekte plattformen for å innføre AI-intelligens til inngangspunktet (edge-en).

Selv for store bedriftsorganisasjoner med tilgang til dataforskere og datasett, som i hovedsak har ubegrensede budsjetter, er det vanskelig å bli dyktig i AI og ML. For mindre selskaper kan dette være umulig. Hvis situasjonen forblir «status quo», er det ingen måte at 25 % av edge-enhetene (inngangspunktenhetene) kommer til å bli utvidet med AI/ML-funksjoner innen 2025. Hvis bare eksisterende utviklere av integrerte mikrokontrollbaserte systemer var utstyrt til å utvikle AI/ML-applikasjoner ...

En enkel, rask og rimelig måte å utvikle AI/ML-aktiverte smartobjekter på

Den mest allment utbredt beregningsplattformen for innebygde applikasjoner i industrimiljøer er mikrostyringen, og ingen mikrostyring er mer allment utbredt enn Arm sin Cortex-M-familie, spesielt M0, M0+, M3, M4 og M7.

Figur 1: V2M-MPS2-0318C er en kraftig utviklingsplattform for Arm Cortex-M-baserte applikasjoner med mye I/O og LCD-skjerm. (Bildekilde: Arm)

En ting selskapene har tilgang til, er tradisjonelle integrasjonsutviklere. Det som kreves er en måte å få disse utviklerne til å være virksomme som AI/ML-eksperter uten å måtte trene dem. Den ideelle løsningen ville være å gi tradisjonelle integrasjonsutviklere muligheten til raskt og enkelt å lage selvbevisste maskiner som automatisk kan lære og forstå miljøet sitt, identifisere mønstre og oppdage anomalier, forutsi problemer og utfall, og gjøre alt dette på rimelige mikrokontroller-baserte plattformer på inngangspunktet (edge-en) der dataene blir generert og fanget.

Løsningen, som jeg antydet tidligere, er NanoEdge AI Studio fra Cartesiam.AI. Ved å bruke det integrerte utviklingsmiljøet (IDE), som kjører på Windows 10 eller Linux Ubuntu, velger integrasjonutvikleren først mål-mikrostyring, alt fra en Arm Cortex-M0 til M7. I tillegg spesifiserer utvikleren eller designeren den maksimale mengden RAM som skal tildeles løsningen. Hvis du er litt rusten eller er ny på alt dette, er det et bra sted å (re)starte med V2M-MPS2-0318C Arm Cortex-M Prototyping System+ (figur 1).

V2M-MPS2-0318C er en del av Arm Versatile Express-serien med utviklingskort. Den leveres med en relativt stor FPGA (feltprogrammerbare portmatriser – field-programmable gate arrays) for prototyping av Cortex-M-baserte design. Til det kommer den med faste krypterte FPGA-implementeringer (feltprogrammerbare portmatriser – field-programmable gate arrays) av alle Cortex-M-prosessorer. Dessuten har den ganske mange nyttige periferiutstyr inkludert PSRAM, Ethernet, berøringsskjerm, lyd, en VGA LCD, SPI og GPIO.

Deretter må utvikleren velge antall og typer sensorer som skal brukes; det fine med Cartesiam.AI-tilnærmingen er at det ikke er noen faste begrensninger på sensorene som kan brukes. For eksempel kan de inkludere:

• En, to og tre-akse akselerometre (stort sett hvilken som helst frekvens for vibrasjonsanalyse)
• Magnetsensor
• Temperatursensor
• Mikrofoner (for lydgjenkjenning)
• Halleffekt sensorer for motorstyring
• Strømovervåking sensorer

Det er viktig å merke seg at utvikleren ikke er pålagt å definere spesifikke delenumre – kun de generelle sensortypene.

Neste trinn er å laste inn kontekstuelle sensordata; det vil si generiske data tilknyttet hver sensor, for å gi systemet en idé om hva den kommer til å håndtere.

NanoEdge AI Studio er utstyrt med en omfattende pakke med AI/ML-«byggeklosser» som kan brukes til å lage løsninger for 90 % eller mer av industrielle AI/ML oppgaver. Når den har blitt informert om mål-mikrostyring, antall og typer sensorer, samt den generiske typen sensordata den kan forvente å se, vil den generere den beste AI/ML-bibliotekløsningen av 500 millioner mulige kombinasjoner.

Hvis utvikleren ønsker, kan denne løsningen eventuelt testes på den samme PC-en som kjører som NanoEdge AI Studio IDE ved hjelp av en inkludert emulator, der den er innebygd i hovedprogrammet for mikrostyringen, kompilert og lastet ned til det mikrostyringsbaserte systemet som skal tilknyttes målmaskinen.

Bare som et eksempel, la oss anta at vi har to dumme maskiner som vi ønsker å gjøre smarte. En av disse maskinene kan være en pumpe, mens den andre kan være en generator. La oss også anta for at dette eksemplet skal lage en enkelt løsning ved hjelp av en temperatursensor og et 3-akset akselerometer, og at den samme løsningen blir distribuert på begge maskinene (figur 2).

Figur 2: Etter at NanoEdge AI Studio IDE har blitt brukt til å lage og (alternativt) teste et AI/ML-bibliotek, blir biblioteket innebygd i hovedprogrammet, samlet og lastet ned til det mikrostyringsbaserte systemet som skal tilknyttes målmaskin(ene). Etter en læringsfase (vanligvis en uke med kjøring 24 timer i døgnet), kan inferensmotoren (inference engine – IE) brukes til å oppdage og rapportere avvik og forutsi fremtidige utfall. (Bildekilde: Max Maxfield)

Selvfølgelig vil disse to maskinene ha helt andre egenskaper. I realiteten kan to ellers identiske maskiner ha veldig forskjellige egenskaper avhengig av deres beliggenhet og miljø. For eksempel kan to identiske pumper som ligger 20 meter fra hverandre i samme rom i samme fabrikk, ha forskjellige vibrasjonsprofiler, avhengig av hvor de er montert (den ene på betong, den andre over tregulvbjelkene), samt lengder (pluss former og materialer) på rørene de er koblet til.

Nøkkelen til hele prosessen er at AI/ML-løsningene blir individuelt trent på kjente gode maskiner, der denne opplæringen vanligvis tar en uke uten stopp, 24 timer i døgnet, dermed lar systemet lære av temperatursvingninger og vibrasjonsmønstre . Ytterligere treningsøkter kan selvfølgelig utføres på senere tidspunkt for å finjustere modellene for å redegjøre for miljøvariasjoner assosiert med forskjellige årstider (for eksterne applikasjoner), samt andre forventede variabler.

Når løsningene har blitt opplært, kan de begynne å konkludere fra nye data som kommer inn, identifisere mønstre og oppdage avvik, forutsi problemer og utfall, så presentere konklusjonene sine på et dashbord for både teknisk- og ledelsesanalyse etter behov.

Konklusjon

Jeg ser NanoEdge AI Studio som noen som endret alt – en «game changer». Det er intuitivt og vil tillate designere av integrerte systemer som bruker laveffektive og rimelige Arm Cortex-M-mikrostyringer – som er integrert i milliarder av enheter over hele verden – til raskt, enkelt og rimelig å integrere AI/ML i sine og transformere dumme maskiner til smarte maskiner. Dermed kan produktiviteten og effektiviteten økes, samtidig som de oppnår stor forventede besparelser i driftskostnadene.

Referanser

1: https://www.vxchnge.com/blog/iot-statistics

2: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

3: https://www.helpnetsecurity.com/2019/06/21/connected-iot-devices-forecast/

4: https://securitytoday.com/articles/2020/01/13/the-iot-rundown-for-2020.aspx

5: https://www.kleinerperkins.com/perspectives/the-industrial-awakening-the-internet-of-heavier-things/

6: https://www.ibm.com/downloads/cas/3RL3VXGA

7: https://newsroom.cisco.com/press-release-content?articleId=1847422

8: https://www.idc.com/getdoc.jsp?containerId=US44363318

9: https://www.statista.com/statistics/935382/worldwide-microcontroller-unit-shipments/