logo

קריאת תוכן דף אינטרנט נבחר באמצעות Python Web Scraping

תְנַאִי מוּקדָם: הורדת קבצים בפייתון גירוד אינטרנט עם BeautifulSoup כולנו יודעים ש-Python היא שפת תכנות קלה מאוד, אבל מה שעושה אותה מגניבה הוא המספר הרב של ספריות קוד פתוח שנכתבו עבורה. בקשות היא אחת הספריות הנפוצות ביותר. זה מאפשר לנו לפתוח כל אתר HTTP/HTTPS ולתת לנו לעשות כל סוג של דברים שאנחנו בדרך כלל עושים באינטרנט ויכול גם לשמור הפעלות, כלומר עוגיות. כפי שכולנו יודעים שדף אינטרנט הוא רק פיסת קוד HTML אשר נשלחת על ידי שרת האינטרנט לדפדפן שלנו אשר בתורו הופך לדף היפה. עכשיו אנחנו צריכים מנגנון כדי להשיג את קוד המקור של HTML, כלומר למצוא כמה תגים מסוימים עם חבילה בשם BeautifulSoup. הַתקָנָה:
pip3 install requests 
pip3 install beautifulsoup4 

אנו לוקחים דוגמה על ידי קריאת אתר חדשות הינדוסטאן טיימס

ניתן לחלק את הקוד לשלושה חלקים.
  • בקשת דף אינטרנט
  • בדיקת התגים
  • הדפס את התוכן המתאים
שלבים:
    בקשת דף אינטרנט:ראשית אנו רואים קליק ימני על טקסט החדשות כדי לראות את קוד המקור קריאת תוכן דף אינטרנט נבחר באמצעות Python Web Scraping' title= בדיקת התגים:אנחנו צריכים להבין באיזה גוף של קוד המקור יש את מדור החדשות שאנחנו רוצים לבטל. זוהי הרשימה הלא מסודרת תחת uli.e 'searchNews' המכילה את מדור החדשות. קריאת תוכן דף אינטרנט נבחר באמצעות Python Web Scraping' title= הערה טקסט החדשות קיים בחלק הטקסט של תג העוגן. התבוננות מדוקדקת נותנת לנו את הרעיון שכל החדשות נמצאות בתגיות li list של התג הלא מסודר. קריאת תוכן דף אינטרנט נבחר באמצעות Python Web Scraping' title= הדפס את התוכן המתאים: The content is printed with the help of code given below. Python
    import requests from bs4 import BeautifulSoup def news(): # the target we want to open  url='http://www.hindustantimes.com/top-news' #open with GET method resp=requests.get(url) #http_respone 200 means OK status if resp.status_code==200: print('Successfully opened the web page') print('The news are as follow :-n') # we need a parserPython built-in HTML parser is enough . soup=BeautifulSoup(resp.text'html.parser') # l is the list which contains all the text i.e news  l=soup.find('ul'{'class':'searchNews'}) #now we want to print only the text part of the anchor. #find all the elements of a i.e anchor for i in l.findAll('a'): print(i.text) else: print('Error') news() 

    תְפוּקָה

    Successfully opened the web page The news are as follow :- Govt extends toll tax suspension use of old notes for utility bills extended till Nov 14 Modi Abe seal historic civil nuclear pact: What it means for India Rahul queues up at bank says it is to show solidarity with common man IS kills over 60 in Mosul victims dressed in orange and marked 'traitors' Rock On 2 review: Farhan Akhtar Arjun Rampal's band hasn't lost its magic Rumours of shortage in salt supply spark panic among consumers in UP Worrying truth: India ranks first in pneumonia diarrhoea deaths among kids To hell with romance here's why being single is the coolest way to be India vs England: Cheteshwar Pujara Murali Vijay make merry with tons in Rajkot Akshay-Bhumi SRK-Alia Ajay-Parineeti: Age difference doesn't matter anymore Currency ban: Only one-third have bank access; NE backward regions worst hit Nepal's central bank halts transactions with Rs 500 Rs 1000 Indian notes Political upheaval in Punjab after SC tells it to share Sutlej water Let's not kid ourselves with Trump what we have seen is what we will get Want to colour your hair? Try rose gold the hottest hair trend this winter 

הפניות



צור חידון