標準ライブラリのsimplejson
モジュールの代わりにjson
モジュールを使用する多くのプロジェクトを見てきました。また、多くの異なるsimplejson
モジュールがあります。標準ライブラリの代わりにこれらの代替を使用するのはなぜですか?
標準ライブラリのsimplejson
モジュールの代わりにjson
モジュールを使用する多くのプロジェクトを見てきました。また、多くの異なるsimplejson
モジュールがあります。標準ライブラリの代わりにこれらの代替を使用するのはなぜですか?
回答:
json
は simplejson
、stdlibに追加されます。しかしjson
は2.6で追加されて以来simplejson
、より多くのPythonバージョン(2.4以降)で作業できるという利点があります。
simplejson
また、Pythonよりも頻繁に更新されるため、最新バージョンが必要(または必要)なsimplejson
場合は、可能であればそれ自体を使用することをお勧めします。
私の考えでは、どちらか一方をフォールバックとして使用することをお勧めします。
try:
import simplejson as json
except ImportError:
import json
JSONDecodeError
はValueError
私は他の答えに同意するjson
必要があります:(Python 2.7の)組み込みライブラリは必ずしもより遅いとは限りませんsimplejson
。また、この厄介なUnicodeバグもありません。
簡単なベンチマークは次のとおりです。
import json
import simplejson
from timeit import repeat
NUMBER = 100000
REPEAT = 10
def compare_json_and_simplejson(data):
"""Compare json and simplejson - dumps and loads"""
compare_json_and_simplejson.data = data
compare_json_and_simplejson.dump = json.dumps(data)
assert json.dumps(data) == simplejson.dumps(data)
result = min(repeat("json.dumps(compare_json_and_simplejson.data)", "from __main__ import json, compare_json_and_simplejson",
repeat = REPEAT, number = NUMBER))
print " json dumps {} seconds".format(result)
result = min(repeat("simplejson.dumps(compare_json_and_simplejson.data)", "from __main__ import simplejson, compare_json_and_simplejson",
repeat = REPEAT, number = NUMBER))
print "simplejson dumps {} seconds".format(result)
assert json.loads(compare_json_and_simplejson.dump) == data
result = min(repeat("json.loads(compare_json_and_simplejson.dump)", "from __main__ import json, compare_json_and_simplejson",
repeat = REPEAT, number = NUMBER))
print " json loads {} seconds".format(result)
result = min(repeat("simplejson.loads(compare_json_and_simplejson.dump)", "from __main__ import simplejson, compare_json_and_simplejson",
repeat = REPEAT, number = NUMBER))
print "simplejson loads {} seconds".format(result)
print "Complex real world data:"
COMPLEX_DATA = {'status': 1, 'timestamp': 1362323499.23, 'site_code': 'testing123', 'remote_address': '212.179.220.18', 'input_text': u'ny monday for less than \u20aa123', 'locale_value': 'UK', 'eva_version': 'v1.0.3286', 'message': 'Successful Parse', 'muuid1': '11e2-8414-a5e9e0fd-95a6-12313913cc26', 'api_reply': {"api_reply": {"Money": {"Currency": "ILS", "Amount": "123", "Restriction": "Less"}, "ProcessedText": "ny monday for less than \\u20aa123", "Locations": [{"Index": 0, "Derived From": "Default", "Home": "Default", "Departure": {"Date": "2013-03-04"}, "Next": 10}, {"Arrival": {"Date": "2013-03-04", "Calculated": True}, "Index": 10, "All Airports Code": "NYC", "Airports": "EWR,JFK,LGA,PHL", "Name": "New York City, New York, United States (GID=5128581)", "Latitude": 40.71427, "Country": "US", "Type": "City", "Geoid": 5128581, "Longitude": -74.00597}]}}}
compare_json_and_simplejson(COMPLEX_DATA)
print "\nSimple data:"
SIMPLE_DATA = [1, 2, 3, "asasd", {'a':'b'}]
compare_json_and_simplejson(SIMPLE_DATA)
そして、私のシステムでの結果(Python 2.7.4、Linux 64ビット):
複雑な実世界のデータ:
jsonが1.56666707993秒を
ダンプするsimplejsonが2.25638604164秒をダンプする
jsonが2.71256899834秒をロードする
ダンプしますsimplejsonは1.29233884811秒をロードします単純なデータ:
jsonは0.370109081268秒を
ダンプし
ますsimplejsonは0.574181079865秒を
ダンプしますjsonは0.422876119614秒をロードしますsimplejsonは0.270955085754秒をロードします
ダンプの場合json
は、よりも高速ですsimplejson
。ロードの場合、simplejson
より高速です。
私は現在Webサービスを構築しているので、dumps()
より重要であり、標準ライブラリの使用が常に推奨されます。
また、cjson
過去4年間は更新されていなかったので、触れません。
json
(CPython 3.5.0)はsimplejson
、ベンチマークコードを使用したCスピードアップで、単純|複雑なダンプで68%| 45%高速で、単純|複雑なロードで35%| 17%wrt v3.8.0です。したがって、この設定ではsimplejsonを使用しません。
json
、すべてのテストで勝ちました。実際json
、複雑な実世界のデータダンプテストの2倍弱の速さです。
これらの回答はすべて、時間に敏感であるため、あまり役に立ちません。
私自身、私のいくつかの研究を行った後、それが見つけsimplejson
、速く組み込みよりも確かにある場合、あなたはそれが最新のバージョンに更新を維持。
pip/easy_install
ubuntu 12.04に2.3.2をインストールしたかったのですが、最新simplejson
バージョンが実際には3.3.0であることを確認した後、それを更新して時間テストを再実行しました。
simplejson
json
ロード時のビルトインより約3倍速いsimplejson
json
ダンプでの組み込みよりも約30%速い上記の文はpython-2.7.3とsimplejson 3.3.0(cのスピードアップあり)にあります。また、私の答えが時間に影響されないことを確認するために、バージョンごとに大きく異なるため、独自のテストを実行して確認する必要があります。時間に敏感ではない簡単な答えはありません。
import simplejson
# If this is True, then c speedups are enabled.
print bool(getattr(simplejson, '_speedups', False))
更新:私は最近、いくつかの基本的なテストよりも〜3倍高速に実行されているujsonというライブラリに出会いましたsimplejson
。
私はjson、simplejson、cjsonのベンチマークを行っています。
$ python test_serialization_speed.py
--------------------
Encoding Tests
--------------------
Encoding: 100000 x {'m': 'asdsasdqwqw', 't': 3}
[ json] 1.12385 seconds for 100000 runs. avg: 0.011239ms
[simplejson] 0.44356 seconds for 100000 runs. avg: 0.004436ms
[ cjson] 0.09593 seconds for 100000 runs. avg: 0.000959ms
Encoding: 10000 x {'m': [['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19], ['0', 1, '2', 3, '4', 5, '6', 7, '8', 9, '10', 11, '12', 13, '14', 15, '16', 17, '18', 19]], 't': 3}
[ json] 7.76628 seconds for 10000 runs. avg: 0.776628ms
[simplejson] 0.51179 seconds for 10000 runs. avg: 0.051179ms
[ cjson] 0.44362 seconds for 10000 runs. avg: 0.044362ms
--------------------
Decoding Tests
--------------------
Decoding: 100000 x {"m": "asdsasdqwqw", "t": 3}
[ json] 3.32861 seconds for 100000 runs. avg: 0.033286ms
[simplejson] 0.37164 seconds for 100000 runs. avg: 0.003716ms
[ cjson] 0.03893 seconds for 100000 runs. avg: 0.000389ms
Decoding: 10000 x {"m": [["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19], ["0", 1, "2", 3, "4", 5, "6", 7, "8", 9, "10", 11, "12", 13, "14", 15, "16", 17, "18", 19]], "t": 3}
[ json] 37.26270 seconds for 10000 runs. avg: 3.726270ms
[simplejson] 0.56643 seconds for 10000 runs. avg: 0.056643ms
[ cjson] 0.33007 seconds for 10000 runs. avg: 0.033007ms
一部の値は、simplejsonとjsonで異なる方法でシリアル化されます。
特に、のインスタンスはcollections.namedtuple
によって配列としてシリアル化されますjson
が、によってオブジェクトとしてシリアル化されますsimplejson
。に渡すnamedtuple_as_object=False
ことsimplejson.dump
でこの動作をオーバーライドできますが、デフォルトでは動作は一致しません。
>>> import collections, simplejson, json
>>> TupleClass = collections.namedtuple("TupleClass", ("a", "b"))
>>> value = TupleClass(1, 2)
>>> json.dumps(value)
'[1, 2]'
>>> simplejson.dumps(value)
'{"a": 1, "b": 2}'
>>> simplejson.dumps(value, namedtuple_as_object=False)
'[1, 2]'
私が見つけたAPIの非互換性は、Python 2.7とsimplejson 3.3.1で、出力がstrオブジェクトとunicodeオブジェクトのどちらを生成するかです。例えば
>>> from json import JSONDecoder
>>> jd = JSONDecoder()
>>> jd.decode("""{ "a":"b" }""")
{u'a': u'b'}
対
>>> from simplejson import JSONDecoder
>>> jd = JSONDecoder()
>>> jd.decode("""{ "a":"b" }""")
{'a': 'b'}
設定がsimplejsonを使用することである場合、次のように引数文字列をUnicodeに強制することで対処できます。
>>> from simplejson import JSONDecoder
>>> jd = JSONDecoder()
>>> jd.decode(unicode("""{ "a":"b" }""", "utf-8"))
{u'a': u'b'}
強制型変換では、元の文字セットを知っている必要があります。次に例を示します。
>>> jd.decode(unicode("""{ "a": "ξηθννββωφρες" }"""))
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
UnicodeDecodeError: 'ascii' codec can't decode byte 0xce in position 8: ordinal not in range(128)
これは問題40を修正しません
Python jsonライブラリの(現在は古い)比較を次に示します。
この比較の結果に関係なく、Python 2.6を使用している場合は、標準ライブラリjsonを使用する必要があります。それ以外の場合は、simplejsonを使用することもできます。
simplejsonモジュールは、jsonよりも1.5倍高速です(私のコンピューターでは、simplejson 2.1.1およびPython 2.7 x86を使用しています)。
必要に応じて、ベンチマークを試すことができます。http: //abral.altervista.org/jsonpickle-bench.zip私のPCでは、simplejsonはcPickleよりも高速です。ベンチマークも知りたい!
おそらく、Coadyが言ったように、simplejsonとjsonの違いは、simplejsonに_speedups.cが含まれていることです。では、なぜPython開発者はsimplejsonを使用しないのですか?
python3では、あなたの場合の文字列はb'bytes'
、とjson
あなたが持っている.decode()
コンテンツ、あなたはそれをロードすることができます前に。 simplejson
これを処理するので、あなたはただ行うことができますsimplejson.loads(byte_string)
。
json
より速いようです simplejson
最新バージョンのロードとダンプの両方の場合
テスト済みバージョン:
結果:
>>> def test(obj, call, data, times):
... s = datetime.now()
... print("calling: ", call, " in ", obj, " ", times, " times")
... for _ in range(times):
... r = getattr(obj, call)(data)
... e = datetime.now()
... print("total time: ", str(e-s))
... return r
>>> test(json, "dumps", data, 10000)
calling: dumps in <module 'json' from 'C:\\Users\\jophine.antony\\AppData\\Local\\Programs\\Python\\Python36-32\\lib\\json\\__init__.py'> 10000 times
total time: 0:00:00.054857
>>> test(simplejson, "dumps", data, 10000)
calling: dumps in <module 'simplejson' from 'C:\\Users\\jophine.antony\\AppData\\Local\\Programs\\Python\\Python36-32\\lib\\site-packages\\simplejson\\__init__.py'> 10000 times
total time: 0:00:00.419895
'{"1": 100, "2": "acs", "3.5": 3.5567, "d": [1, "23"], "e": {"a": "A"}}'
>>> test(json, "loads", strdata, 1000)
calling: loads in <module 'json' from 'C:\\Users\\jophine.antony\\AppData\\Local\\Programs\\Python\\Python36-32\\lib\\json\\__init__.py'> 1000 times
total time: 0:00:00.004985
{'1': 100, '2': 'acs', '3.5': 3.5567, 'd': [1, '23'], 'e': {'a': 'A'}}
>>> test(simplejson, "loads", strdata, 1000)
calling: loads in <module 'simplejson' from 'C:\\Users\\jophine.antony\\AppData\\Local\\Programs\\Python\\Python36-32\\lib\\site-packages\\simplejson\\__init__.py'> 1000 times
total time: 0:00:00.040890
{'1': 100, '2': 'acs', '3.5': 3.5567, 'd': [1, '23'], 'e': {'a': 'A'}}
バージョンの場合:
ダンプ操作中はjsonはsimplejsonよりも高速でしたが、ロード操作中はどちらも同じ速度を維持しました
Python 2.6にsimplejsonをインストールしようとしていたときに、この質問に出くわしました。jsonファイルをOrderedDictとしてロードするには、json.load()の「object_pairs_hook」を使用する必要がありました。最近のバージョンのPythonに慣れているので、Python 2.6のjsonモジュールに「object_pairs_hook」が含まれていないことに気づかなかったため、この目的のためにsimplejsonをインストールする必要がありました。個人的な経験から、これが標準のjsonモジュールではなくsimplejsonを使用する理由です。
redefinition of unused 'json'