Google Web Search APIが廃止された今、代替手段は何ですか?[閉まっている]


322

Google Web Search APIは非推奨になり、Custom Search APIに置き換えられました(http://code.google.com/apis/websearch/を参照)。

ウェブ全体を検索したかったのですが、新しいAPIではカスタムサイトしか検索できないようです。

プログラムでウェブ全体を検索する方法はありますか?JavaプログラムからJSONを使用して古いAPIをクエリすることができました。


3
OK私はこの1つ上の多くの研究を行ってきたし、唯一の解決策は、Yahooのボスであるように見えます
ダン

カスタム検索APIは、ほとんどの人が探しているものではありません:-/ searchapi.ioを見てください!
スタンスマルダーズ

さまざまな検索APIでPOCを実行しました。これにより、多くの機能が提供され、ほんの数分で非常に簡単に実装できます。Swiftype(swiftype.com)、Cludo(cludo.com/en)、Algolia(algolia.com/doc)も、私が実装してテストしたAPIです。詳細な回答も提供できますが、この質問は締め切られました。
Ashish Kumar

2
最善の解決策は、SerpApiの
Hartator

回答:


32

ブラウザーのようにそれらを送信してから、htmlを解析することができます。これは、YouTubeなどの場合でも、私が常に行っていることです。


64
私はグーグルの利用規約がスパイダーを禁止していると言われています...
スティーブンA.ロウ

52
TOSから:「お客様は、自動化された手段(スクリプトまたはWebクローラーの使用を含む)を介してサービスにアクセスしない(またはアクセスを試行しない)
ことに特に同意し

18
「サービスプロバイダーとサービス規約に違反する」ことは決して良いアドバイスではありません。Webページの解析は、警告なしに次の日に中断するものです。これはひどいアドバイスです。それが、賛成よりも反対が多かった理由です。
WhyNotHugo

143
はい、利用規約に違反していますが、個人的には心配していません。グーグルは、他の人のサイトをスクレイピングして大金を稼いだ後でも、少しのスクレイピングを処理できます。
jimbo2087 2013

106
人に来なさい。そんなにナイーブにならないでください。GoogleはそのToSを強制的に強制することはできません。ToSに違反するには、まず同意する必要があります(書面、または「はい、条件に同意します」のようなボタンをクリックします)。これについて考えてみます。私は自分のWebページにToSを配置します。そのページにアクセスするすべての人が$ 10000を支払わなければなりません。訪問者にこのToSを強制できますか?すぐにお願いします。
Migrate2Lazarusプロフィールを見る

482

はい、Googleカスタム検索は現在、旧検索APIを交換しましたが、あなたはできるまだウェブ全体を検索するためにGoogleカスタム検索を使用する手順は、カスタム検索の設定から明らかではないが、。

ウェブ全体を検索するGoogleカスタム検索エンジンを作成するには:

  1. Googleカスタム検索のホームページ(http://www.google.com/cse/)で、[カスタム検索エンジンの作成]をクリックします。
  2. 検索エンジンの名前と説明を入力します。
  3. [検索エンジンの定義]の[検索するサイト]ボックスに、少なくとも1つの有効なURLを入力します(現時点では、www.anyurl.comと入力するだけで、この画面を通過できます。これについては後で詳しく説明します)。
  4. 目的のCSEエディションを選択して利用規約に同意し、[次へ]をクリックします。必要なレイアウトオプションを選択し、[次へ]をクリックします。
  5. [次のステップ]セクションの下にあるリンクをクリックして、コントロールパネルに移動します。
  6. 左側のメニューの[コントロールパネル]で、[基本]をクリックします。
  7. [検索設定]セクションで、[ウェブ全体を検索しますが、含まれるサイトを強調する]を選択します。
  8. [変更を保存]をクリックします。
  9. 左側のメニューの[コントロールパネル]で、[サイト]をクリックします。
  10. 初期設定プロセス中に入力したサイトを削除します。

これで、カスタム検索エンジンがWeb全体を検索します。

価格

  • Googleカスタム検索では、1日あたり100クエリを無料で提供しています。
  • その後、クエリ1,000回あたり$ 5を支払います。
  • 1日あたりのクエリの最大数は10,000です。

ソース:https : //developers.google.com/custom-search/json-api/v1/overview#Pricing


  • 検索品質が通常のGoogle検索よりもはるかに低い(類義語なし、「インテリジェンス」など)
  • グーグルはこのサービスを完全に停止することさえ計画しているようです。

26
これをありがとう。うまくいけば、これは有効な手順であり、Googleによって差し込まれるのを待っている抜け穴ではありません!
Mazatec 2012

9
ありがとうございました!これはおそらく私の質問に対処したインターネット上の唯一の答えです。なぜGoogleがコアサービスの直接APIサポートを終了するのかと、気が遠くなるような気がします。
spamguy

7
しかし、それをjsonでどのように使用するのですか?
nawara 2013

61
警告:我々は無料版を使用して開発をしましたが、有料版にアップグレードするには(100件の以上の検索を行うには)、あなたが「ウェブ全体を検索するが、サイトに含ま重視」オフにする力グーグル
ブライアン・ラーセン

5
「2017年4月1日をもって、GoogleはGoogle Site Searchの販売を終了します。すべての新規購入および更新は、この日までに行う必要があります。この製品は、2018年4月1日までに完全に閉鎖されます。」
Gajus 2017年

55

Googleカスタム検索(最高評価の回答で推奨)はうまく機能しますが、競合他社(以下)または他のGoogle APIと比較すると非常に高価です。小さな無料枠(100クエリ/日)を持ち、1000クエリあたり5ドルという非常に高い価格です。

彼らはSite Searchにアップグレードするオプションを提供します。これは価格がわずかに優れていますが、これは1つのサイト(自分のサイト)を検索するためのものであるため、実際にはまったく異なるものであり、アップグレードではありません。

主な選択肢は次のようです:

Bing Search API
https://datamarket.azure.com/dataset/5BA839F1-12CE-4CCE-BF57-A49D98D29A44
これは、1か月あたり5000qの無料枠と、1ペニーあたり5クエリから始まる価格で、ハード制限はありません。

更新:2016年の終わりに、このAPIは、対応するAzure対応の「Cognitive Services Bing Search API」に代わってシャットダウンされました。https
//azure.microsoft.com/en-us/services/cognitive-services/search/

1,000トランザクションのUS $ 3 / mから始まる価格表については、こちらご覧ください。私が何かを逃していない限り、それはかなり高価です。

Yahoo BOSS Search APIの
更新:2016年3月31日に廃止されました 。http://developer.yahoo.com/boss/search/
Web検索全体で約12クエリ/ペニーから始まる価格。

そして、私が以前に聞いたことがないもの:

http://www.gigablast.com/searchfeed.html

http://www.faroo.com/hp/api/api.html

http://www.commoncrawl.org/

http://www.entireweb.com/search_api/implementation/
[廃止-以下で指摘]

このSO投稿では、これらのいくつかについて少し議論しています。
[トピックから外れたため閉鎖され、現在は削除されています]


2
Bing Search APIバージョン5では、すべてのBing Search API(Web、画像、ビデオ、ニュース検索)で毎月最大1,000件のトランザクションが可能になりました-microsoft.com/cognitive-services/en-us/pricing。-私は一緒にいくつかのサンプル入れmvark.blogspot.in/2016/06/...
mvark

wholeweb.comは、ここに示さ
Wessam El Mahdy 2016

2016年12月15日、Bing Web Search APIは、Azure Marketplace(azure.microsoft.com/en-us/services/cognitive-services/search)によるCognitive Servicesに移行します。サブスクリプションには電話とクレジットカードの確認が必要です(無料のもの)。
ギラドマヤニ16年

Bing APIから:「DataMarketとData Servicesは廃止され、2016年12月31日以降は新しい注文の受け付けを停止します。既存のサブスクリプションは廃止され、2017年3月31日からキャンセルされます。オプションについては、サービスプロバイダーにお問い合わせください。サービスを継続したい。」
Dmitri Zaitsev 2017

変更を指摘していただきありがとうございます-それに応じて回答を更新しました。
トム

27

ここではカスタム検索のコントロールパネルの下部にあるオプションがある:「サイトを検索する」、あなたが選ぶことができる「ウェブ全体を検索するが、含まれるサイトを重視します」

カスタム検索コントロールパネル-検索するサイト


1
それはあなたのためにまだ働きますか?
デジェル2015

うん、それはまだ動作します。

5
有料検索にアップグレードするとき、Googleはそのオプションをオフにすることを強制します。また、無料の検索数は100に制限されています。
ブライアンラーセン

1
@Yishu、ページhttps://support.google.com/customsearch/answer/141877?hl=jaにウェブ全体を検索するようにGoogle Site Searchを設定できない」と記載されているのはなぜですか?
Pacerier、2015

@Pacerier、私はそれについて何も知りません。たぶん、ポリシーが変更されましたか?
Yishu Fang 2015

14

結果の継ぎ目は限られていますが、良い出発点です。
afro360 2014年

@ジャック、これまで聞いたことがない。彼らはどこから検索結果を取得しますか?
Pacerier、2015

7
Farooの取引ブレーカーとして考えられるのは、APIキーが登録時に指定したIPアドレスに制限されていることです。
キャッチされなかった例外

6
これらの人たちはまだ稼働していますか?APIキーをリクエストしても何も聞こえませんでした。
Paul Whelan 2017

5

Common Crawlからこれに遭遇しました。

http://www.commoncrawl.org/

私たち全員が求めている答えかもしれません!!


3
インデックスは限定的で、年に1回程度更新されます。そして、Amazon S3に接続する必要があるため、最終的には非常に高価になります。
Guillaume Lebourgeois 2013年

@GuillaumeLebourgeois、高価ですか?それは本当ではないと思います。非営利団体です。102 TBのデータ全体を無料でダウンロードできます。
Pacerier

コストは、これにアクセスできるAWSに接続するためのものです。あなたが学生の場合、あなたは彼らの無料枠の資格がありますが、転送費用などがまだあるかもしれません。また、無料枠に含まれていない場合は、ランニングコストが発生します。
Tripleee

コモンクロールは毎月更新されているようです
Jack Tuck

4

ドキュメントの上にメモがあります:

注:Google Web Search APIは2010年11月1日をもって正式に非推奨になりました。非推奨ポリシーに従って引き続き機能しますが、1日あたりのリクエスト数は制限されます。したがって、新しいカスタム検索APIに移行することをお勧めします。

非推奨ポリシーは、彼らが3年間のAPIを実行し続けることを言います。そのため、古いAPIを使用するアプリケーションがすでにある場合は、急いで変更する必要はありません。新しいアプリケーションを作成する場合は、カスタム検索APIを使用してください。Pythonでこれを行う方法については、ここの私の回答を参照してください。ただし、考え方はどの言語でも同じです。


8
そしてそれは無料ではありません... "1000クエリあたり$ 5" ...とても無料ではありません!
UpTheCreek

1
3年が経過し、2014/09/29が過ぎたため、この回答は現在使用されていません。
nanofarad 2014年

CustomeSearchAPIはすべてのWebサイトにあるわけではありません-ユーザーのWebサイト用です
Dejell

3

すでに述べたFarooを使用するJFreeWebSearchと呼ばれる無料のJava APIがあります:http ://www.ke.tu-darmstadt.de/resources/jfreewebsearch


1

「どこでも」カスタム検索エンジンは、Googleカスタム検索ホームページ(http://www.google.com/cse/)から直接作成できます。新しいエンジンを追加するときは、「詳細」をクリックするだけです。そこで、Schema.orgサイトタイプを指定できます。' Thing 'はすべてのWebをカバーする最も一般的なタイプです。


わかりませんでした。それはあなたのために働きますか?
デジェル2015

0

Gigablastは安価なWeb検索APIを提供しています:http ://www.gigablast.com/searchfeed.html

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.