Jak jsme už dříve uvedli, pro moderní modely umělé inteligence je charakteristické, že od sebe navzájem oddělují režim učení a režim provozu neboli inference. Učení vyžaduje extrémně výkonný hardware a má velkou spotřebu energie, zatímco spouštění modelů je podstatně méně náročné. Dostatečně optimalizované modely jsou tak malé a tak nenáročné, že je možné je spouštět na straně klientského zařízení, ať už jde o mobilní telefon, AR brýle, procesor v chytrém autě a nebo v robotech: Takovému zpracování umělé inteligence se říká edge AI, edge AI computing („zpracování na hraně reality“).
Read more