コンサルティング・開発実績一覧

マーケティングツール開発



Webアクセスログ分析用 クローリングツール【Webコンサルティング会社】

お客様の課題

お客様はWebコンサルティング会社様です。複数のクライアントのWebサイトを分析管理されています。各社のアクセスログに記載されるURL情報から、どのページを巡回して流入しているか手作業で照合されていました。

 

しかし調査するWebサイトが急増し、限られたマンパワーではとても処理しきれない件数となっていました。

当社の取り組み

弊社では、対象となるWebサイトの「ページタイトル」はもちろんのこと、「コンテンツ見出し」も高速クローリング可能なシステムを構築しました。

この高速化にあたっては、複数のクローリングを同時実行する、多重化クローリング技術を採用しています。

 

しかし、サイトによってはアクセスが過度に集中すると、アタック行為とみなされ、アクセス制御されることがあります。

こうした迷惑行為とならないよう、特定のサイトには一定の時間を開けてクローリングするスケジュール機能を備えました。

ビジネスへの効果

本ツールの導入で、マンパワーに依存していたURLとページタイトルの照合作業が大幅に短縮され、業務の効率化・省力化に成功されています。

 

また、コンテンツの見出しも取得できることで、さらに詳細なアクセスログ分析が可能となったことも評価をいただいています。

社名

お客様との機密保持契約に基づき非公開(東京都)

業種・業態

Webコンサルティング会社

構築期間

初期構築 約1ヶ月 システム保守・運用も継続中

技術要素

Java・多重化Webクローリング

参考図

crawling4-2




ページ上部へ戻る