Python 3マルチスレッドプログラムを使用して速度を上げる方法
最適化前後の古いコードは以下の通りです。
1)git.get_プロジェクトメンバーシップ()
2)git.get_アメリカ.info(member_)name,debug=False)
二つのステップに分けて最適化します。先の中と外のどちらでもいいです。forサイクルをマルチスレッドで置換し、外部リソースを共有し、書き込み衝突を回避する。
テストの結果、関数運転時間装飾器表示(単位秒):
ゲットするproject.lang.code_ラインexecution took up time:1.85294
ゲットするproject.lang.code_ラインナップold execution took up time:108.0477
スピードは約58倍アップしました。
以上が本文の全部です。皆さんの勉強に役に立つように、私たちを応援してください。
from git_tools.git_tool import get_collect_projects, QQNews_Git
from threading import Thread, Lock
import datetime
base_url = "http://git.xx.com"
project_members_commits_lang_info = {}
lock = Lock()
threads = []
'''
Author:zenkilan
'''
def count_time(func):
def took_up_time(*args, **kwargs):
start_time = datetime.datetime.now()
ret = func(*args, **kwargs)
end_time = datetime.datetime.now()
took_up_time = (end_time - start_time).total_seconds()
print(f"{func.__name__} execution took up time:{took_up_time}")
return ret
return took_up_time
def get_project_member_lang_code_lines(git, member, begin_date, end_date):
global project_members_commits_lang_info
global lock
member_name = member["username"]
r = git.get_user_info(member_name)
if not r["id"]:
return
user_commits_lang_info = git.get_commits_user_lang_diff_between(r["id"], begin_date, end_date)
if len(user_commits_lang_info) == 0:
return
lock.acquire()
project_members_commits_lang_info.setdefault(git.project, dict())
project_members_commits_lang_info[git.project][member_name] = user_commits_lang_info
lock.release()
def get_project_lang_code_lines(project, begin_date, end_date):
global threads
git = QQNews_Git(project[1], base_url, project[0])
project_members = git.get_project_members()
if len(project_members) == 0:
return
for member in project_members:
thread = Thread(target=get_project_member_lang_code_lines, args=(git, member, begin_date, end_date))
threads.append(thread)
thread.start()
@count_time
def get_projects_lang_code_lines(begin_date, end_date):
"""
―― ( )
for
:return:
"""
global project_members_commits_lang_info
global threads
for project in get_collect_projects():
thread = Thread(target=get_project_lang_code_lines, args=(project, begin_date, end_date))
threads.append(thread)
thread.start()
@count_time
def get_projects_lang_code_lines_old(begin_date, end_date):
"""
―― ( )
for
:return:
"""
project_members_commits_lang_info = {}
for project in get_collect_projects():
git = QQNews_Git(project[1], base_url, project[0])
project_members = git.get_project_members()
user_commits_lang_info_dict = {}
if len(project_members) == 0:
continue
for member in project_members:
member_name = member["username"]
r = git.get_user_info(member_name, debug=False)
if not r["id"]:
continue
try:
user_commits_lang_info = git.get_commits_user_lang_diff_between(r["id"], begin_date, end_date)
if len(user_commits_lang_info) == 0:
continue
user_commits_lang_info_dict[member_name] = user_commits_lang_info
project_members_commits_lang_info[git.project] = user_commits_lang_info_dict
except:
pass
return project_members_commits_lang_info
def test_results_equal(resultA, resultB):
"""
:param resultA:
:param resultB:
:return:
"""
print(resultA)
print(resultB)
assert len(str(resultA)) == len(str(resultB))
if __name__ == '__main__':
from git_tools.config import begin_date, end_date
get_projects_lang_code_lines(begin_date, end_date)
for t in threads:
t.join()
old_result = get_projects_lang_code_lines_old(begin_date, end_date)
test_results_equal(old_result, project_members_commits_lang_info)
従来の方法では、外側のforサイクルと内部のforサイクルの両方に時間のロスがあります。1)git.get_プロジェクトメンバーシップ()
2)git.get_アメリカ.info(member_)name,debug=False)
二つのステップに分けて最適化します。先の中と外のどちらでもいいです。forサイクルをマルチスレッドで置換し、外部リソースを共有し、書き込み衝突を回避する。
テストの結果、関数運転時間装飾器表示(単位秒):
ゲットするproject.lang.code_ラインexecution took up time:1.85294
ゲットするproject.lang.code_ラインナップold execution took up time:108.0477
スピードは約58倍アップしました。
以上が本文の全部です。皆さんの勉強に役に立つように、私たちを応援してください。