まず、Sparse Modelingそのものと基本応用例として、こちらの記事がおすすめです。
・ITエンジニアのためのスパースモデリング入門(染田貴志さん・著(株式会社ハカルス))
データ解析や主要因の解析としてのLASSOなど、ずいぶんと前から聞いたことがある方もいらっしゃるのではないでしょうか?
(あの黄色い本「ビショップ著:パターン認識と機械学習と機械学習」の線形回帰モデルの章にも載っています!)
「スパースモデリングの画像処理への発展的な応用~欠損補間、異常検知、超解像」の回では、Sparse Codingで特徴学習と復元誤差を求める異常検知手法も紹介されています。DNNベースのAutoEncoderでもおなじみですね。
しかしながら、実際にSparse Codingベースの方を動かしてみると、画像パッチ辞書学習処理の軽量さに驚かれるのではないでしょうか?
パラメータや入力画像サイズによってはオンラインで辞書学習を回せるぐらいです。
パッチサイズを大きくしていくとKSVD的にそれなりに重くなりますので、許容速度と精度からバランスを取っていくと良いでしょう。
finiboの開発でも、対象物の画像を事前学習することなく、逐次観測画像から特徴辞書を学習するVisual Trackerを実装しています。