如何使用Python Beautiful Soup或Investpy从Investing.com刮擦可扩展的桌子?
https://www.investing.com/economic-calendar/initial- 如该问题所述, Robless-Claims-294
我尝试在此链接中刮擦数据表。但是,我只能刮擦数据的前几行,直到“显示更多”按钮。除Web刮擦外,我还尝试了Investpy.ecomonic_calendar(),但是过滤参数是如此随机,以至于我无法直接提取失业者索赔数据。有人可以帮我吗?
url = 'https://www.investing.com/economic-calendar/initial-jobless-claims-294'
page = requests.get(url)
soup = BeautifulSoup(page.content, 'html.parser')
table1 = soup.find('table', id='eventHistoryTable294')
headers = []
for i in table1.find_all('th'):
title = i.text
headers.append(title)
mydata = pd.DataFrame(columns = headers)
table_rows = table1.find_all('tr')
#$df_side = pd.DataFrame(mydata)
#x = df_side.head(100)
for j in table1.find_all('tr')[1:]:
row_data = j.find_all('td')
row = [i.text for i in row_data]
length = len(mydata)
mydata.loc[length] = row
print(mydata)
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论