オンライン学習ともいう。
教師データを、ひとつずつ、ないしはミニバッチに逐次的に与え、その都度重みを計算する学習方法。
毎回ゼロからモデルを構築するのではなく、現状のモデルのパラメータを随時更新する。
活用例:株価の自動売買システムなど
メモリを多用せず計算できるメリットがある(ビッグデータ処理向き)。
また、データの増加に伴いモデルの見直しをして精度を向上させたい場合でも、随時モデルを更新できるため、過去データを準備・学習をやり直す必要がない。