取得について
secubell の情報の取得(secubell-feed)について
secubell は、セキュリティの事件を会員にお知らせするため、公開されている情報を自動で取得しています。サイトの運営者の方に向けて、取得のしかたと、止めたいときの連絡先をまとめました。
名乗り
取得の要求には、次の User-Agent を付けています。
secubell-feed/1.0 (+https://secubell.jp/about/crawler)運営は フィリット・コンサルティング株式会社(Philit Consulting Inc.) です。要求は読み取り(GET)だけで、相手のサイトへの書き込みはしません。転送(リダイレクト)は追わず、応答は 5MB までしか受け取りません。
読むもの
読むのは次の 2 つです。
- 監視:公的機関・開発元などが公開している配信(RSS・Atom)、公開データ(CSV・JSON)、公式の API。配信の無い 1 か所だけは、報道発表の一覧のページを 1 枚読みます。
- 原典のページ:配信や検索で見つけた発表・記事を、事件のレポートを作るときに 1 件ずつ読みます。利用条件で禁止されている媒体は読みません。
ページの中のリンクをたどって、サイトを次々に読み進める取得はしていません。
頻度
- 監視先ごとに、15 分・30 分・60 分のいずれかに 1 回取得します。
- 監視でも原典のページを読むときでも、同じホストへ、前の要求から 6 秒以上空けてから送ります。複数の処理から取得するときも、同じ間を空けます。robots.txt の取得も同じ間に含めます。
- 監視では、接続の失敗やサーバーの不具合(5xx)のときは、3 秒以上空けて 1 回だけ取り直します。それでも取れないときは、次の回まで待ちます。原典のページは取り直さず、その回は読みません。
robots.txt
監視でも原典のページを読むときでも、取得の前に、そのホストの robots.txt を確かめ、Disallow で止められている場所は取得しません。当てるのは、User-agent に secubell-feed(または secubell)と書かれた節で、無ければ * の節です。robots.txt は 1 日おぼえておき、その後に読み直します。
User-agent: secubell-feed
Disallow: /robots.txt が無いとき(4xx)や読めないときは、取得してよいものとして扱います。
robots.txt で止められている原典のページは読みません。レポートには、配信などで公開されている題とリンクだけを出典として示すことがあります。
回数制限(429・Retry-After)
HTTP 429 が返ったときは、Retry-After(秒数、または日時)と、同じホストへの間(6 秒)の長いほうを待ってから、1 回だけ取り直します。Retry-After が 60 秒より長いときは取り直さず、監視では次の回まで待ち、原典のページはその回は読みません。
取り込む内容
- 監視で取り込むのは、項目ごとの見出し・要旨(配信に載っている要約)・出典の URL・公開の日時です。報道の配信・API からは、見出しと URL だけを取り込み、要旨も保存しません。
- 記事の全文を再配布することはありません。会員に届けるレポートは secubell が作る文章で、元の発表・記事は出典のリンクで示します。
- 事件の候補にならなかった項目は、90 日で消します。
止めたい・頻度を下げたいとき
監視・原典のページの取得は、robots.txt で secubell-feed を止めていただくことでも止まります。次の連絡先でも承ります。サイトのホスト名と、止めたい・頻度を下げたいといったご希望をお知らせください。
お問い合わせ:お問い合わせのフォーム、support@secubell.jp