Dokáže umělá inteligence (AI) v robotických systémech spravovat části funkční bezpečnosti?
Zveřejněno AI v 13. duben 2023
Autoři: Josep Plassa, manažer marketingu bezpečnostních produktů ve společnosti OMRON Europe, a Atsushi Oshiro, manažer rozvojového střediska společnosti OMRON
Roboty a systémy umělé inteligence se staly nedílnou součástí průmyslových výrobních závodů. Aby byla zajištěna bezpečnost pracovníků při používání robotů, je nezbytné podstoupit podrobné posouzení rizik. Toto posouzení se provádí z hlediska funkční bezpečnosti a zkoumá pět hlavních prvků využívaných roboty k určení autonomních řídicích akcí: Rozpoznávání prostředí, plánování akcí, generování trajektorie, řízení pohybu a měření.
Problémy s umělou inteligencí a funkční bezpečnost
Hodnocení funkční bezpečnosti robotů s vestavěnými systémy umělé inteligence odhalilo dva zásadní problémy, a to obtížnost posuzování stavu systémů umělé inteligence a rozdíly v metrikách hodnocení výkonnosti, které panují mezi funkční bezpečností a systémy umělé inteligence.
Hodnocení stavu systémů umělé inteligence může být náročné, zejména v případě neuronových sítí se složitou architekturou uzlů či vrstev. Obtížnost spočívá v diagnostice výsledků posudku, kvůli které není možné posoudit normalitu systému. Například stochastická rozhodnutí vznikají v případě, kdy systém umělé inteligence selže. To znamená, že takový systém nelze považovat za deterministický, a proto je obtížné jej vyhodnotit jako součást bezpečnostních částí řídicího systému funkční bezpečnosti.
Metriky hodnocení výkonu pro umělou inteligenci zahrnují preciznost, přesnost, opakování a specifičnost. Umělá inteligence ale závisí na učení z dat, které nezohledňuje změny v časových řadách. V důsledku toho občas dochází ke změně pravděpodobnosti chyb systémů umělé inteligence. Proto je náročné hodnotit jejich výkonnost z hlediska funkční bezpečnosti, ta totiž vyhodnocuje pravděpodobnost selhání během provozu jako konstantní.
Zkoumání výše uvedených problémů zdůrazňuje skutečnost, že hodnocení bezpečnosti systémů umělé inteligence není snadný úkol. Zlepšení výhod výrobních systémů využívajících kolaborativní roboty a umělou inteligenci by proto mělo probíhat pouze v omezených oblastech.
Závěr
Závěrem lze říci, že ačkoli roboty a systémy umělé inteligence nabízejí průmyslovým výrobním závodům mnoho výhod, prvořadý význam má bezpečnost pracovníků. Proto je nezbytné podrobně posuzovat rizika z hlediska funkční bezpečnosti. Hodnocení bezpečnosti systémů umělé inteligence je ovšem náročné, proto je potřeba omezit používání robotů se zabudovanou umělou inteligencí na konkrétní oblasti. Zkoumání těchto otázek vyžaduje inovativní řešení, která zlepší bezpečnost robotů se zabudovanou umělou inteligencí.
Kontaktujte nás pro více informacíChcete se dozvědět více? Stáhněte si náš informační dokument.
