dotData Feature Factory データ中心の特徴量エンジニアリング

データ中心の特徴量エンジニアリングが全てのデータ活用、
AI開発を強化します。

特徴量が企業のデータの価値を最大化

dotData Feature Factoryは、企業のキュレーションされたデータ(すなわち特徴量)を開発するために、データ加工に関するノウハウを再利用可能なアセットとして蓄積する仕組みを提供し、企業におけるデータの扱い方を根本的に変えるものです。データ中心に自動構築される特徴量空間から、アルゴリズムによってデータに隠れたパターン(特徴量)を発見し、特徴量発見のスピードと効率、再利用性と再現性、専門家間の連携、品質と透明性を向上します。dotData Feature Factoryは、企業データのサイロ(縦割り構造)を破壊し、データから最大限の価値を引き出します。

特徴量エンジニアリングが全てのデータ活用、AI開発を強化

特徴量の発見と設計は、職人芸とも言える、経験と勘による手作業が中心で、属人性が高く、また大きな工数のかかるプロセスです。dotData Feature Factoryは、特徴量エンジニアリングをデータ中心のアプローチへと進化させます。特徴量空間をプログラム的に定義することで、手作業では不可能な圧倒的に広い範囲の特徴量仮説を自動生成し、ユーザーのデータや業務に関する知識を再利用可能なプロセスとして分析データベースに記憶します。また、発見した新しい特徴量を、本番環境で利用可能な特徴量パイプラインを自動生成し、目的別に加工されたデータ(特徴量)を供給するハブとして、データ活用、AI開発、ビジネスインテリジェンス(BI)といった、全てのデータアプリケーションを強化します。

特徴量エンジニアリング
特徴量エンジニアリング

製品の特長

dotData Feature Factoryは、独自の特徴量エンジアリングによって、企業のデータ加工のノウハウを再利用可能なアセット化し、業務データに隠れたビジネスのパターンの発見します。企業に蓄積されている大量のデータを、効果的にビジネスインサイト(洞察)に変換し、データドリブンな意思決定を実現します。

複数ソース、複数テーブルの特徴量設計

複数ソース、複数テーブルの
特徴量設計

dotData独自の特徴量自動設計技術が、ターゲットテーブル(目的変数)、ソーステーブル(入力テーブル)、テーブル間の関係(エンティティリレーション)を指定するだけで、数値、カテゴリ、時系列、テキスト、地理空間などのマルチモーダルなデータセットから、機械学習モデルの予測力を高め、ビジネスインサイト(洞察)をもたらす新しい特徴量を発見します。

特徴量設計を再利用可能なアセット化

特徴量設計を再利用可能な
アセット化

スキーマやエンティティリレーションといったデータのメタ情報、データクレンジングなどの前処理、データ加工と特徴量変換の全てのステップを分析データベースへ記録し、特徴量に関する「ノウハウ」を再利用可能なアセットとして蓄積し、組織やチームでのデータ活用やAI開発の生産性を圧倒的に向上します。

データ加工&データクレンジング

データ加工&
データクレンジング

不正なデータ値、欠損値、外れ値、カテゴリ値の正規化、レコードの重複などを自動的に検出し、ソースデータをクレンジングします。これにより、時間がかかり、またエラーが発生し やすいデータ加工の作業を最小化し、特徴量と予測の品質を最大化します。

既存のPython環境、Pythonエコシステム上で利用可能

既存のPython環境、Python
エコシステム上で利用可能

dotData Feature Factoryは、Jupyter Notebook、Databricks、Azure Machine Learning Studioなど、ユーザーが利用しているPython環境上にインストール可能で、データフレームなどの標準的なインターフェースを通じて、既存の分析環境を変更せずに利用できます。

企業データにおけるスケーラビリティ

企業データにおける
スケーラビリティ

dotData Feature Factoryは分散計算技術によって、大規模データに対するスケーラビリティを備えて構築されています。これにより、数十のテーブル、数千の列、数 十億の行を処理することができます。企業の大量のデータを処理をする際に、高度な分散計算技術で通常必要となる煩雑な設定や調整は必要ありません。

本番品質の特徴量パイプラインを自動生成

本番品質の特徴量パイプライン
を自動生成

dotData Feature Factoryで設計された特徴量は、本番品質・スケーラビリティをもった特徴量パイプラインを自動生成可能です。分析環境で発見した価値のある特徴量を、直ちに本番環境で運用することができます。

利用のステップ

データをデータフレームとして分析データベースへ設定する

複数のデータソース、データレイク、データウェアハウスに接続し、データフレームとしてデータを準備

  • クラウドのデータストレージ(Amazon Redshift、Google Big Query、Snowflake、MS Azure Synapseなど)、データウェアハウス(Oracle、Teradata、MS SQL Server)、ローカルファイルからPythonのデータフレームとしてデータをロード
  • データフレームを「分析データベース」へ設定し、データ型の自動検出とデータスキーマの自動推論
  • データフレーム間の関係(分析エンティティ・リレーション)を定義し、複数テーブルを接続
  • 時間方向に特徴量を探索するためには、時間エンティティ・リレーションを利用

特徴量空間を構築し、特徴量設計を実行する

ターゲット変数と特徴量の探索元となる(複数の)ソーステーブルを指定し、dotData Feature Factoryを実行

  • 分析データベースの情報から、dotData Feature Factoryが自動的に作成可能な特徴量を「特徴量空間」として構築
  • 不正な値や外れ値の処理、データの正規化、欠損値、ターゲットラベルのマッピングの誤りなど、データを自動的にクレンジング
  • dotData独自のアルゴリズムに基づいて数値、カテゴリ、時系列、テキスト、空間データから、数百万もの特徴量仮説を生成・探索し、特徴量の過学習、共線性、ドリフト、冗長性などの問題を解決
  • 特徴量空間と探索基準をカスタマイズし、独自のドメイン特徴量を追加

目的にあった特徴量を発見する

特徴量を探索的に評価しながら、目的にあった特徴量を発見

  • 特徴量のリーダーボードにより、ターゲット変数と最も関連性が高く、安定した特徴量を確認
  • 自動生成された特徴量の説明文により、各特徴量の意味を定性的に理解
  • 相関係数、特徴量ごとのAUC、特徴量重要度、局所性などに基づいて、特徴量を定量的に理解
  • 特徴量テーブルをデータフレームとして抽出し、組み込みの可視化ツールまたは任意の可視化ライブラリを使用して各特徴量を可視化

特徴量の抽出と検証を繰り返す

dotData Feature Factoryを用いて特徴量をさまざまな角度から繰り返し抽出し、高品質かつ高次の特徴量を発見

  • 発見した特徴量を、ドメイン知識に合うように書き換えカスタマイズ
  • データを追加して、新たな実験を実行。複数の実験から得られた特徴量を組み合わせ
  • すべてのデータ変換の手順と特徴量空間の詳細がブラックボックス化されることなく確認可能
  • モジュール化された実行により、任意のステップから実験を開始し、検証を繰り返す

特徴量パイプラインを本番環境に展開する

本番品質の特徴量パイプラインを生成・蓄積し、継続的に
アップデート

  • 特徴量とその説明文、メトリック、スキーマを、Databricks、Snowflake、AWS SageMakerなどの特徴量ストアへとエクスポート
  • 特徴量パイプラインを自動生成し、手動の特徴量クエリの実装が不要
  • 特徴量パイプラインをワンコマンドでdotData Opsに展開し、最新のデータで特徴量を再計算し、特徴量の品質とドリフトを監視することで、特徴量の品質を確保

デプロイメントオプション

Jupyter Notebook

Jupyter Notebook

dotData Feature Factoryを、データサイエンティストの最も標準的なPython環境であるJupyter Notebook上にインストールして利用

Databricks

Databricks

dotData Feature Factoryを、Databricksの機械学習ワークベンチへ統合

Azure Synapse Analytics / Azure Machine Learning

Azure Synapse Analytics / Azure Machine Learning

dotData Feature FactoryをAzure Synapse AnalyticsやAzure Machine Learning上のPython Notebookに展開して特徴量を探索

Amazon EMR

Amazon EMR

dotData Feature FactoryをAmazon EMRをバックエンドとしてスケーラブルに実行

Pip Install

Pip Install

dotData Feature Factoryをpipインストール。ノートパソコンやローカルサーバー上でも動作

お客様の声

Sticky.io

Sticky.io

全体の95%の時間がデータラングリング(前処理)に費やされ、プロセスの最後のわずか5%のみを自動化することに価値を見出せませんでした。今ではその作業のほとんどがdotDataによって自動化されたので、素早く試行を繰り返し有用なモデルを見つけることに注力できるようになりました。

ディレクター データサイエンス&データアナリティクス Justin Shoolery氏
株式会社JALエンジニアリング

株式会社JALエンジニアリング

dotDataによって、整備士・エンジニアの知見に基づく仮説検証型分析では見い出すことができなかった不具合の予兆につながる新たな特徴量を作成することが可能になりました。

技術部 システム技術室(当時) 谷内亨氏
株式会社ローソン

株式会社ローソン

特徴量から炙り出される消費者の価値観によって、商品の魅力を最大限に伝えることができるようになり、店舗の売上向上につながっています。

マーケティング戦略本部 デジタルマーケティング部 シニアマネジャー 小林敏郎氏

dotDataの業界別・業務別活用事例

dotDataのAIプラットフォームは、顧客のペルソナ分析やLTVの向上、商品の需要予測、解約防止製造工程の効率化、製品の品質向上、サプライチェーンの最適化、リスク管理、従業員採用や定着率の向上、パフォーマンス評価など、さまざまな目的に対してデータに隠れたパターン、すなわち特徴量を抽出し、企業におけるデータ活用を圧倒的に加速するとともに、特徴量のもたらすビジネスインサイトとデータに基づく洞察が、データドリブン経営と、ビジネスの各領域で迅速な意思決定と戦略の実行を支援します。

ユースケース

キリンビール株式会社 AIによるビール製造の省力化をdotDataで実証実験。多様な知見を得る

キリンビール株式会社

AIによるビール製造の省力化をdotDataで実証実験。多様な知見を得る
三菱電機ビルソリューションズ株式会社 データ利活用文化の社内浸透

三菱電機ビルソリューションズ株式会社

データ利活用文化の社内浸透

dotDataのAIプラットフォーム 特徴量がデータ活用の成否を決める

dotDataは、独自の特徴量自動設計技術をコアとして、機械学習でAIモデルを構築する、特徴量をアセットとして蓄積しデータを強化する、データインサイト(洞察)を抽出して業務をデータドリブンに変革するといった、様々なシーン毎に最適なAIプラットフォームを提供し、データ活用、AIによるビジネスのDXを支援します。

dotData Enterprise データサイエンスのプロセス全体を自動化

dotData Enterpriseは、事業部門やデータ分析部門が、ノーコードで予測AI開発を行うことができるAIプラットフォームです。特徴量自動設計と機械学習自動化(AutoML)によって、AIの専門知識やコーディングなしで、業務データから特徴量の抽出、そして機械学習による予測モデルの構築まで、ワンストップでAIを開発することができます。dotData Enterpriseを使用すると、通常は数か月かかる予測分析を、たった数日で実施でき、素早くビジネスでAIを活用でき、将来の予測やデータからの洞察が得られます。

dotData Insight 業務部門が自ら洞察を導き出す

dotData Insightは、事業部門が主役のビジネスアナリティクスを実現する革新的なデータ分析プラットフォームです。dotDataの隠れたパターン(特徴量)を、BIツールのような直感的で使いやすいインターフェースを通じて提供します。dotData独自のAIが解析するデータの特徴を、生成AIの「世界知識」で補完し、実用的なビジネス仮説を生み出します。この融合により、業務部門は、データの洞察を直感的に理解し、新しいビジネス仮説を立て、戦略立案や施策実行をより効果的に行うことができます。

dotData Ops 特徴量・モデルの本番運用を簡易化・自動化

dotData Opsは、データ、特徴量、予測パイプラインを、分析チームがセルフサービスでデプロイ、実ビジネスで運用するための環境を提供します。データ分析のビジネス価値を業務で試行し素早く検証することで、意思決定者からの信頼を高め、本番運用への投資判断を加速します。dotDataの特徴量自動設計によって、ビジネス価値の検証、特徴量ドリフトの診断、予測精度の改善など、MLOpsを革新します。

dotData Cloud フルマネージド、SaaSでビジネスの成果に注力

dotData Cloudは、dotDataの各AIプラットフォームを、dotDataがフルマネージドでSaaS提供します。データ分析を行う環境のための大規模なインフラ構築や管理が必要なく、TOC(Total Cost of Ownership: 総保有コスト)を最小化するとともに、AI開発をすぐに試行し、重要な課題に集中して取り組むことができます。dotData Cloudのアーキテクチャは、AWS技術パートナーの最高位である「コンピテンシーパートナー」として認定を受けており、また、データセキュリティを高めるために、日本リージョンでシングルテナント方式を採用しています。

dotData Stream リアルタイム予測を実現するAIコンテナ

dotData Streamは、リアルタイム・ストリーム予測を実現するプラットフォームです。dotData EnterpriseとFeature Factoryで開発したモデルを、コマンドひとつで直ちにコンテナ化・マイクロサービス化された予測を展開することができます。オンプレミス、クラウド、さらには、IoTのエッジサーバーといったような幅広い環境でのAIの予測を活用することができます。

お問い合わせ・
資料ダウンロード

気軽に話を聞いてみたい、ユースケースを知りたいなど、お客様のニーズに合わせてサポート致しますので、まずはお気軽にお問い合わせください。また、資料ダウンロードもご利用ください。

よくある質問

dotDataの考える特徴量エンジニアリングとは、「業務データから目的にあったパターンを発見し、データ加工、変換するプロセス」です。例えば、解約分析において、「お客様の解約のトリガーとなる行動」が特徴量に対応します。特徴量は、可視化分析と組み合わせたデータ駆動の戦略立案、ビジネスシステムと組み合わせた施策実行、機械学習モデルやAI開発のための入力データ作成など、全てのデータアプリケーションは特徴量が基点になるといっても過言ではなく、企業のデータ活用の根幹となる概念です。

dotDataの特徴量自動設計は、ディープラーニング(深層学習)のような高次元のブラックボックス化された特徴量とは異なり、説明性の高い特徴量に絞って探索を行います。これによって、業務部門が特徴量を通じた予測結果を理解し、またデータを活用してビジネスインサイト(洞察)を発見することを支援します。また、dotDataは、ディープラーニングが扱うことができない、複数表を直接入力として、業務データを直接探索することで、よりよい特徴量を探索することができる点も、大きな利点です。

dotData Feature Factoryは、入力されたテーブルに対して分析観点でのデータ品質のチェック機能があり、データ品質が低い場合には、ユーザーにその理由を通知し、欠損値、外れ値などの、一般的なデータクレンジングは自動的に実行されます。また、分析データベースに対して、カステむのデータ前処理を記録することで、同じデータに対して、誰が実行しても、いつでも同じ前処理を適用することができます。

dotDataは、主に企業の業務データ(ファーストパーティーデータ)から特定にビジネスの目的に対応する特徴量を通じて、数値やカテゴリ、テキストなど様々なデータからの知識や知見を発見します。一方で、生成AIは、世の中に存在する大量のデータを目的を限定せずに大規模言語モデルとして学習し、いわゆる「世界知識」によって、非常に汎用的な質疑応答を実現したり、業務知識を読み込ませることで、特定目的に特化した要約や質疑を得意とします。dotDataと生成AIは、得意なデータや知識に違いはありますが、どちらも特化型AIであり、dotDataと生成AIを組み合わせることで、より高次のデータインサイト(洞察)を導き出すことが可能です。