Wat doet de Neural Engine in jouw iPhone, iPad en Mac eigenlijk?
Apple zet al jarenlang in op slimme technieken, zoals computational photography en Deep Fusion. Dit zijn technieken om je foto’s mooier uit de verf te laten komen, zonder dat je er zelf iets voor hoeft te doen. Een speciaal daarvoor ontwikkelde processor voert miljarden berekeningen per seconde uit. Ook op andere gebieden wordt de iPhone gaandeweg steeds slimmer en daarbij hoor je vaak de termen kunstmatige intelligentie (AI) en machine learning. De processor die hiervoor verantwoordelijk is, is de Apple Neural Engine. Op deze pagina vertellen we meer over deze chip, waar we in 2017 voor het eerst over schreven.
- Wat is een Neural Engine?
- In welke toestellen wel?
- In welke toestellen niet?
- Waarom een Neural Engine?
Wat is een Neural Engine?
De Apple Neural Engine (ANE) is een Neural Processing Unit (NPU). Dat houdt in, dat het een processor is die ongeveer op dezelfde manier werkt als het menselijk brein en waarbij bepaalde intelligente processen kunnen worden nagebootst. De Neural Engine is vergelijkbaar met een grafische kaart (GPU), maar in plaats van het versnellen van grafische processen versnelt de Neural Engine allerlei rekenkundige bewerkingen die nodig zijn om algoritmes uit te voeren, zoals matrixvermenigvuldigingen. De Neural Engine maakt deel uit van de System on a Chip (SoC) die je in een iPhone vindt. Dit is een pakket met meerdere onderdelen, waaronder de GPU, modemchip voor draadloze verbindingen en de Secure Enclave voor beveiligingsfuncties.
Apple is zeker niet de enige met een Neural Engine. Ook veel andere bedrijven maken hun eigen chips om AI-berekeningen te versnellen. Zo maakt Google de Tensor Processing Unit (TPU), die dezelfde rol vervult in de Google Pixel-smartphones.
In welke toestellen zit een Neural Engine?
Apple introduceerde in 2017 voor het een Neural Engine, als onderdeel van de A11 Bionic-chip. Hieronder zie je welke varianten er zijn en welke toestellen erover beschikken.
| SoC | Introductie | Proces | Neurale kernen | Max berekeningen/seconde. |
|---|---|---|---|---|
| A11 Bionic | September 2017 | 10 nm | 2 | 600 miljard |
| A12 Bionic | September 2018 | 7 nm | 8 | 5 biljoen |
| A13 Bionic | September 2019 | 7 nm | 8 | 6 biljoen |
| A14 Bionic | Oktober 2020 | 5 nm | 16 | 11 biljoen |
| M1 | November 2020 | 5 nm | 16 | 11 biljoen |
| A15 Bionic | September 2021 | 5 nm | 16 | 15,8 biljoen |
| M1 Pro en M1 Max | Oktober 2021 | 5 nm | 16 | 11 biljoen |
A11 Bionic
2017: iPhone 8-serie, iPhone X
Deze eerste versie van de Neural Engine heeft twee kernen en kan tot 600 miljard (!) bewerkingen per seconde uitvoeren. Deze Neural Engine wordt alleen gebruikt voor taken zoals Face ID en Animoji, maar niet voor Core ML. Core ML is Apple’s raamwerk waarmee externe ontwikkelaars machine learning in hun iOS-apps kunnen gebruiken.
A12 Bionic
2018: iPhone XS-serie, iPhone XR
2019: iPad Air 3e generatie, iPad mini 5e generatie
2020: iPad 8e generatie 2020
2021: Apple TV 4K 2021
Dit is de tweede generatie van de Neural Engine, die gebruikt kan worden voor Core ML, dus om machine learning-functies in je iOS-app te stoppen. Hiervoor moet iOS 12 of nieuwer geïnstalleerd zijn. Deze heeft 8 kernen en kan tot 5 biljoen bewerkingen per seconde uitvoeren. De performance ligt tot negen keer hoger dan op de A11, zegt Apple.
A12X en A12Z Bionic
2018: iPad Pro (A12X)
2020: iPad Pro (A12Z)
Deze modellen hebben dezelfde Neural Engine als de A12 Bionic, met dezelfde eigenschappen.
A13 Bionic
2019: iPhone 11-serie
2020: iPhone SE 2020
2021: iPad 9e generatie 2021
Deze Neurale Engine heeft 8 kernen en is 20% sneller dan de A12. Ook verbruikt hij 15% minder energie. De CPU van de A13 heeft bovendien eigen machine learning-versnellers (zogenaamde AMX blocks) die matrixvermenigvuldigingen tot 6x sneller kunnen uitvoeren dan de CPU van de A12.
A14 Bionic
2020: iPhone 12-serie, iPad Air 2020
De Neural Engine van de A14 heeft 16 kernen en is tweemaal zo snel als de vorige generatie. Het kan 11 biljoen bewerkingen per seconde uitvoeren. Ook hier zijn zogenaamde AMX blocks aanwezig, zodat de A14 CPU zelf de machine learning-bewerkingen kan versnellen, zonder daarbij de Neural Engine nodig te hebben.
M1 (Pro/Max)
2020: MacBook Air, 13-inch MacBook Pro, Mac mini, iPad Pro 2021
2021: 24-inch iMac, 14- en 16-inch MacBook Pro
De Neural Engine van de M1 heeft 16 kernen en kan 11 biljoen bewerkingen per seconde uitvoeren. Voor het eerst maakte de Neural Engine de overstap naar macOS. Technisch gezien zijn er grote overeenkomsten met de Neural Engine van de A14 Bionic en is vermoedelijk hetzelfde (Apple geeft hier geen nadere informatie over). Ook in de M1 Pro en M1 Max vind je deze Neural Engine.
A15 Bionic
2021: iPhone 13-serie, iPad mini 6e generatie 2021
De A15 Bionic heeft een Neural Engine met 16 kernen en kan maar liefst 15,8 biljoen bewerkingen per seconde uitvoeren. Dit is 43% sneller dan de vorige generatie.
In deze devices vind je geen Neural Engine
Apple introduceerde in 2017 de eerste devices met Neural Engine. Toestellen van vóór 2016 (onder andere de iPhone 7-serie) hebben uiteraard geen Neural Engine. Toch zijn sinds 2017 ook nog wel een paar devices verschenen waar geen Neural Engine in zit. Het gaat onder andere om de:
- iPad 6e generatie uit 2018
- iPad 7e generatie uit 2019
- iPod touch 7e generatie uit 2019
- iPad Pro 2017
- Apple TV 4K uit 2017
- Apple Watch (alle modellen)
- Intel-gebaseerde Macs (alle modellen)
Waarom een Neural Engine?
Toepassingen zoals kunstmatige intelligentie (artificial intelligende) en machine learning worden steeds belangrijker en er zijn talloze mogelijkheden om het te gebruiken: van het maken van mooiere foto’s tot het beter voorspellen van je energieverbruik. Er zijn grote sprongen vooruit geboekt op het gebied van neurale netwerken. Deze proberen met algoritmes het menselijke brein te imiteren. Maar omdat computers niet exact zoals een menselijk brein werken (zaken zoals intuïtie en inlevingsvermogen zijn moeilijk te imiteren) zijn er speciale chips voor gebouwd die zich richten op heel specifieke processen.
Apple bracht in 2017 de Neural Engine uit om deze rekenintensieve bewerkingen op een energiezuiniger manier te kunnen uitvoeren. Het kan worden gebruikt voor video-analyse, spraakherkenning, beeldbewerking en meer. Machine learning zorgt ervoor dat de chip getraind is, zodat latere bewerkingen nog sneller kunnen worden uitgevoerd.
Externe ontwikkelaars kunnen hier ook van profiteren. Aanvankelijk (bij de A11 Bionic) werd de Neural Engine alleen gebruikt voor Apple’s eigen toepassingen zoals Animoji, waarbij digitale karakters jouw gezichtsuitdrukkingen imiteren. Ook wordt het vanaf het begin gebruikt voor snelle gezichtsherkenning met Face ID.
De A12 kon nog ‘maar’ 5 biljard berekeningen per seconde uitvoeren.
Sinds de introductie van Core ML (een raamwerk voor machine learning) kunnen ook externe ontwikkelaars er gebruik van maken, waarbij ze rechtstreeks de Neural Engine aan het werk kunnen zetten. Het voordeel van een Neural Engine is dat het sneller en efficiënter werkt dan de CPU (hoofdprocessor) en de GPU (grafische chip). Daardoor blijft de iPhone vlot reageren, ook als je ondertussen andere taken aan het uitvoeren bent. De iPhone wordt minder snel oververhit en de batterij gaat minder snel leeg, dan wanneer de CPU en GPU waren ingeschakeld voor deze rekenintensieve taken.
Ben je ontwikkelaar en wil je meer weten over dit onderwerp, raadpleeg dan ook eens deze GitHub-pagina, die regelmatig wordt bijgewerkt met nieuwe info! Wil je een overzicht van alle Apple-chips en -processoren, dan hebben we daarvoor een aparte pagina. Of bekijk wat de Secure Enclave in je iPhone doet.
Apple-chips en processors: wegwijs in Apple's eigen chips
Suggestie hoe we dit artikel kunnen verbeteren? Laat het ons weten!