Python 使用和高性能技巧总结:常用工具
3.1 读写 CSV 文件
[Python] 纯文本查看 复制代码 import csv
# 无header的读写
with open(name, 'rt', encoding='utf-8', newline='') as f: # newline=''让Python不将换行统一处理
for row in csv.reader(f):
print(row[0], row[1]) # CSV读到的数据都是str类型
with open(name, mode='wt') as f:
f_csv = csv.writer(f)
f_csv.writerow(['symbol', 'change'])
# 有header的读写
with open(name, mode='rt', newline='') as f:
for row in csv.DictReader(f):
print(row['symbol'], row['change'])
with open(name, mode='wt') as f:
header = ['symbol', 'change']
f_csv = csv.DictWriter(f, header)
f_csv.writeheader()
f_csv.writerow({'symbol': xx, 'change': xx})
注意,当 CSV 文件过大时会报错:_csv.Error: field larger than field limit (131072),通过修改上限解决
[Python] 纯文本查看 复制代码 import sys
csv.field_size_limit(sys.maxsize)
csv 还可以读以 \t 分割的数据
[Python] 纯文本查看 复制代码 f = csv.reader(f, delimiter='\t')
3.2 迭代器工具
itertools 中定义了很多迭代器工具,例如子序列工具:
[Python] 纯文本查看 复制代码 import itertools
itertools.islice(iterable, start=None, stop, step=None)
# islice('ABCDEF', 2, None) -> C, D, E, F
itertools.filterfalse(predicate, iterable) # 过滤掉predicate为False的元素
# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6
itertools.takewhile(predicate, iterable) # 当predicate为False时停止迭代
# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4
itertools.dropwhile(predicate, iterable) # 当predicate为False时开始迭代
# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1
itertools.compress(iterable, selectors) # 根据selectors每个元素是True或False进行选择
# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F
序列排序:
[Python] 纯文本查看 复制代码 sorted(iterable, key=None, reverse=False)
itertools.groupby(iterable, key=None) # 按值分组,iterable需要先被排序
# groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)
itertools.permutations(iterable, r=None) # 排列,返回值是Tuple
# permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC
itertools.combinations(iterable, r=None) # 组合,返回值是Tuple
itertools.combinations_with_replacement(...)
# combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD
多个序列合并:
[Python] 纯文本查看 复制代码 itertools.chain(*iterables) # 多个序列直接拼接
# chain('ABC', 'DEF') -> A, B, C, D, E, F
import heapq
heapq.merge(*iterables, key=None, reverse=False) # 多个序列按顺序拼接
# merge('ABF', 'CDE') -> A, B, C, D, E, F
zip(*iterables) # 当最短的序列耗尽时停止,结果只能被消耗一次
itertools.zip_longest(*iterables, fillvalue=None) # 当最长的序列耗尽时停止,结果只能被消耗一次
3.3 计数器
计数器可以统计一个可迭代对象中每个元素出现的次数。
[Python] 纯文本查看 复制代码 import collections
# 创建
collections.Counter(iterable)
# 频次
collections.Counter[key] # key出现频次
# 返回n个出现频次最高的元素和其对应出现频次,如果n为None,返回所有元素
collections.Counter.most_common(n=None)
# 插入/更新
collections.Counter.update(iterable)
counter1 + counter2; counter1 - counter2 # counter加减
# 检查两个字符串的组成元素是否相同
collections.Counter(list1) == collections.Counter(list2)
3.4 带默认值的 Dict
当访问不存在的 Key 时,defaultdict 会将其设置为某个默认值。
[Python] 纯文本查看 复制代码 import collections
collections.defaultdict(type) # 当第一次访问dict[key]时,会无参数调用type,给dict[key]提供一个初始值
3.5 有序 Dict
[Python] 纯文本查看 复制代码 import collections
collections.OrderedDict(items=None) # 迭代时保留原始插入顺序
|