AIの学習時や判断・認識の際に人間が確認しフィードバックを行い、AIと人間との相互作用によってより安全で信頼できるAIシステムの構築、運用を目指すという考え方。人間参加型AIとも呼ぶ。

AI学習に使われたデータに偏りがある、必要十分なデータを網羅していない、などの問題がある場合、AIが誤った回答を出力する可能性があるが、AI自身ではその誤りを認識することができない。あるいは何らかの社会的な先入観が含まれたデータがAI学習に利用されていた場合、AIが差別的な判断を導く可能性がある。さらに人間の判断とAIの判断が異なった場合、なぜ相違が生まれたのかを検証しなければ同様の問題が発生しAIシステム運用に支障をきたす。AI技術はこのような問題点を含んでいるため、AIの予測・認識がいかに高性能であったとしても、社会的で重要な場面や高い安全性、倫理観が求められる場面では、人間がAIを補完する必要がある。そこで、AI学習に用いるデータに注釈・判断をつけるアノテーションについて人間が確認を行って誤りがあれば修正し学習データの信頼性を高める、AIが出した結果に誤りや解釈違いがあれば訂正しその結果をAI学習データとしてフィードバックする、など人間の知識と判断を継続的にAIに反映し改善を行いAIの性能向上を目指すものである。