承認されたソリューションは、大量のデータに対して非常に遅くなります。賛成票の数が最も多いソリューションは、少し読みにくく、数値データの場合も遅くなります。新しい列をそれぞれ独立して計算できる場合は、を使用せずに、各列を直接割り当てるだけapplyです。
偽の文字データの例
DataFrameに100,000個の文字列を作成する
df = pd.DataFrame(np.random.choice(['he jumped', 'she ran', 'they hiked'],
size=100000, replace=True),
columns=['words'])
df.head()
words
0 she ran
1 she ran
2 they hiked
3 they hiked
4 they hiked
元の質問で行ったように、いくつかのテキスト機能を抽出したいとしましょう。たとえば、最初の文字を抽出し、文字「e」の出現を数えて、フレーズを大文字にします。
df['first'] = df['words'].str[0]
df['count_e'] = df['words'].str.count('e')
df['cap'] = df['words'].str.capitalize()
df.head()
words first count_e cap
0 she ran s 1 She ran
1 she ran s 1 She ran
2 they hiked t 2 They hiked
3 they hiked t 2 They hiked
4 they hiked t 2 They hiked
タイミング
%%timeit
df['first'] = df['words'].str[0]
df['count_e'] = df['words'].str.count('e')
df['cap'] = df['words'].str.capitalize()
127 ms ± 585 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
def extract_text_features(x):
return x[0], x.count('e'), x.capitalize()
%timeit df['first'], df['count_e'], df['cap'] = zip(*df['words'].apply(extract_text_features))
101 ms ± 2.96 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
驚いたことに、各値をループすることで、より良いパフォーマンスを得ることができます
%%timeit
a,b,c = [], [], []
for s in df['words']:
a.append(s[0]), b.append(s.count('e')), c.append(s.capitalize())
df['first'] = a
df['count_e'] = b
df['cap'] = c
79.1 ms ± 294 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
偽の数値データの別の例
100万の乱数を作成しpowers、上から関数をテストします。
df = pd.DataFrame(np.random.rand(1000000), columns=['num'])
def powers(x):
return x, x**2, x**3, x**4, x**5, x**6
%%timeit
df['p1'], df['p2'], df['p3'], df['p4'], df['p5'], df['p6'] = \
zip(*df['num'].map(powers))
1.35 s ± 83.6 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
各列の割り当ては25倍速く、非常に読みやすくなっています。
%%timeit
df['p1'] = df['num'] ** 1
df['p2'] = df['num'] ** 2
df['p3'] = df['num'] ** 3
df['p4'] = df['num'] ** 4
df['p5'] = df['num'] ** 5
df['p6'] = df['num'] ** 6
51.6 ms ± 1.9 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
私は同様の応答をしましたが、なぜapply通常は行く方法ではないのかについての詳細をここに示します。
df.ix[: ,10:16]。あなたはmergeあなたの特徴をデータセットに入れなければならないでしょう。