特定の入力データに対する予測について、判断根拠を解釈・可視化する局所的(ローカルな)モデル解釈ツール。

表形式データ「どの変数が予測に効いたのか」
画像データ「画像のどの部分が予測に効いたのか」

単純で解釈しやすい線形回帰モデルを用いて、複雑なモデルを近似することで解釈を行う。
LIMEモデルへの入力は1つの特定のサンプルに対する予測結果であることがポイント。