我正在开发一个网络机器人,它可以对我的大学进行调查以获取它所拥有的课程列表,到目前为止,我已经完成了很多工作。但是我在使用 HTML 解析器时遇到了问题。这是交易,当我单独获得每个专业的课程列表时,返回的课程数组是正确的。但是当我在 for 循环中这样做时,例如
for major in allMajors:
dictionary[major] = GetAllCourses(major)
问题是字典积累了课程。例如if allMajors == ['MajorA', 'MajorB']
,那么 MajorB 将包含 MajorA 和 MajorB 的课程。这是我的代码。
def UIUCGetCourses(major, s):
url = "https://ui2web1.apps.uillinois.edu/BANPROD1/bwskfcls.P_GetCrse"
payload = {u'sel_instr': [u'dummy'], u'sel_camp': [u'dummy', u'dummy'],
...
}
r = s.post(url=url, data=payload)
p = UIUCcoursesParser()
p.feed(r.content)
p.close()
return p.courses, s
class UIUCcoursesParser(HTMLParser):
print_data = False
courses = []
descriptions = []
internal_string = ""
def handle_starttag(self, tag, attr):
if tag == 'td':
for a in attr:
if a[0] == 'class' and a[1] == 'dddefault':
self.print_data = True
if self.internal_string:
self.descriptions.append(self.internal_string)
self.internal_string = ""
def handle_data(self, data):
if self.print_data and data.isdigit():
self.courses.append(data)
self.print_data = False
elif self.print_data:
self.internal_string = self.internal_string + data.strip('\n')