Tackling AI Quality Assurance
-Comprehensive approach in DENSO-

	Mr. Tetsuya Nakagami, 中神 徹也 氏 Software Production Innovation Div Advanced Software Development Dept. Development Sect.3, DENSO Corporation デンソー
	Dr. Hiroshi Kuwajima, 桑島 洋 氏 　 Manager, Software Production Innovation Div Advanced Software Development Dept. Development Sect.3, DENSO Corporation デンソー

[Presentation Overview] Since the advent of deep learning, AI has been used in various fields. AI risks have also become apparent, and countries and standard development organizations are establishing rules and guidelines regarding the social acceptability of AI. To achieve our accountability to society, we have developed our internal AI quality assurance process of management and engineering parts. The management part defines AI system development activities based on AI laws and standards. The technical part defines AI training and evaluation principles based on the state-of-the-art. We introduce our work on AI quality assurance. 深層学習が登場して以来、AIは様々な領域で活用されるようになった。AIの活用先が拡大する一方で、AIのリスクも顕在化している。AIのリスクへの対策として、各国や国際標準などでAIの社会受容性に関するルール作りも始まっている。弊社では社会への説明責任を果たすために、社内のAI品質保証プロセスの開発に取り組んできた。弊社におけるAI品質保証プロセスは、AI法規標準を参考にAIを搭載したシステムを開発する際の管理活動を定義したマネジメント領域と、AIの技術動向を参考にAIの学習時と評価時に考慮すべき設計基準を定義したエンジニアリング領域で構成される。本講演では、弊社のAI品質保証に関する取り組みと、製品適用事例を紹介する。

[Biography] Mr. Tetsuya Nakagami 中神 徹也 氏 After completing a master’s degree from Aichi Prefectural University, he joined DENSO CREATE Inc. in 2017. After joining the company, he was engaged in the development of technology for incorporating AI-based anomaly detection technology into in-vehicle systems. After that, he worked on research on image compression methods using deep learning and presented his research results at the 23rd Symposium on Image Recognition and Understanding. Currently, he is engaged in the development of AI quality assurance processes for DENSO Corporation. 愛知県立大学で修士号を取得後、2017年に株式会社デンソークリエイトに入社。 入社後、AIベースの異常検知技術を車載システムに組み込むための技術開発に従事。その後、ディープラーニングを用いた画像圧縮手法の研究を行い、第23回画像の認識と理解シンポジウムで研究成果を発表した。 現在は、デンソー株式会社にてAI品質保証プロセスの開発に携わっている。 Dr. Hiroshi Kuwajima 桑島 洋 氏 In 2008, he completed a master’s degree in Division of Electrical, Electronic and Infocommunications Engineering, Graduate School of Engineering, Osaka University. After working as an SDE (software development engineer) at Microsoft Development and a visiting researcher at Stanford University, he has been engaged in AI safety and quality at DENSO, including corporate-wide AI development process standardization, international standardization, and R&D. In 2023, he received Ph.D. in Engineering from Department of Systems and Control, School of Engineering, Tokyo Institute of Technology. He is an expert in ISO/IEC JTC 1/SC 42, ISO/TC 22/SC 32/WG 14, chairperson of the TG9 Safe AI & Link 2 PAS8800 subteam under the functional safety subcommittee at the Society of Automotive Engineers of Japan (JSAE), and a founding member of the AI Quality Management Initiative.   2008年大阪大学大学院工学研究科電気電子情報工学専攻修士課程修了。 マイクロソフトディベロップメント株式会社、スタンフォード大学訪問研究員を経て、株式会社デンソーでAI品質・安全の研究開発、社内プロセス構築、国際標準化に従事。 2023年東京工業大学工学院システム制御系博士後期課程修了。博士（工学）。ISO/IEC JTC 1/SC 42, ISO/TC 22/SC 32/WG 14エキスパート、自動車技術会機能安全分科会TG9 Safe AI & Link 2 PAS8800小委員会主査、AI 品質マネジメントイニシアティブ発足メンバー。