Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- Seiten
- 33
- Định dạng
- PPTX
- Dung lượng
- 522 KB
- Trường
- University of Maryland
- Aufrufe
- 0
- Kommentare
- 0
- Lượt tải
- 0
Vorschau wird generiert...
Tài liệu giới thiệu các khái niệm cơ bản về lập trình Hadoop MapReduce bao gồm kiến trúc MapReduce, các định dạng vào/ra, tuần tự hóa Writable, và cấu hình Job.
- Dokumentenname
- Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- Schule / Kurs
- University of Maryland · Khai phá dữ liệu
- Inhalt
- Tài liệu này giới thiệu về lập trình Hadoop, tập trung vào mô hình MapReduce, các thành phần như Mapper, định dạng dữ liệu Writable, và cách cấu hình một Job MapReduce.
- Inhaltsverzeichnis
- Overview
- Mapper
- What is Writable?
- Writable
- Getting Data To The Mapper
- Seiten
- 33 Seiten
- Hochgeladen von
- Uni24h
Beschreibung
Trích nội dung tài liệu
Hadoop Programming Overview MapReduce Types Input Formats Output Formats Serialization Job http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop/mapreduce/packagesummary.html Mapper<KEYIN,VALUEIN,KEYOUT,VALUEOUT> Maps input key/value pairs to a set of intermediate key/value pairs. Maps are the individual tasks which transform input records into a intermediate records. The transformed intermediate records need not be of the same type as the input records. A given input pair may map to zero or many output pairs. The Hadoop Map-Reduce framework spawns one map task for each InputSplit generated by the InputFormat for the job. The framework first calls setup(org.apache.hadoop.mapreduce.Mapper.Context), followed by map(Object, Object, Context) for each key/value pair in the InputSplit. Finally cleanup(Context) is called. http://hadoop.apache.org/docs/r2.2.0/api/org/apache/hadoop/mapreduce/Mapper.ht ml public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable>{ private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(Object key, Text value, Context context ) throws IOException, InterruptedException { StringTokenizer itr = new StringTokenizer(value.toString()); while (itr.hasMoreTokens()) { word.set(itr.nextToken()); context.write(word, one); } } } What is Writable? Hadoop defines its own “box” classes for strings (Text), integers (IntWritable), etc. All values are instances of Writable All keys are instances of WritableComparable Writable A serializable object which implements a simple, efficient, serialization protocol, based on DataInput and DataOutput. Any key or value type in the Hadoop Map-Reduce framework implements this interface. Implementations typically implement a static read(DataInput) method which constructs a new instance, calls readFields(DataInput) and returns the instance. http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop
Häufig gestellte Fragen
Ist dieses Dokument kostenlos?
Ja. „Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)“ ist kostenlos — melden Sie sich einfach an und klicken Sie auf Herunterladen, um die Originaldatei zu erhalten.
Wie viele Seiten hat dieses Dokument?
Das Dokument hat 33 Seiten, für den Kurs Khai phá dữ liệu. Sie können es vor dem Herunterladen online in der Vorschau ansehen.
Kann ich vor dem Herunterladen eine Vorschau ansehen?
Ja. Sie können sich dieses Dokument direkt auf dieser Seite im Online-Reader ansehen und dann entscheiden, ob Sie es herunterladen möchten.
Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
Vorschau wird generiert...
Trích nội dung tài liệu
Hadoop Programming Overview MapReduce Types Input Formats Output Formats Serialization Job http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop/mapreduce/packagesummary.html Mapper<KEYIN,VALUEIN,KEYOUT,VALUEOUT> Maps input key/value pairs to a set of intermediate key/value pairs. Maps are the individual tasks which transform input records into a intermediate records. The transformed intermediate records need not be of the same type as the input records. A given input pair may map to zero or many output pairs. The Hadoop Map-Reduce framework spawns one map task for each InputSplit generated by the InputFormat for the job. The framework first calls setup(org.apache.hadoop.mapreduce.Mapper.Context), followed by map(Object, Object, Context) for each key/value pair in the InputSplit. Finally cleanup(Context) is called. http://hadoop.apache.org/docs/r2.2.0/api/org/apache/hadoop/mapreduce/Mapper.ht ml public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable>{ private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(Object key, Text value, Context context ) throws IOException, InterruptedException { StringTokenizer itr = new StringTokenizer(value.toString()); while (itr.hasMoreTokens()) { word.set(itr.nextToken()); context.write(word, one); } } } What is Writable? Hadoop defines its own “box” classes for strings (Text), integers (IntWritable), etc. All values are instances of Writable All keys are instances of WritableComparable Writable A serializable object which implements a simple, efficient, serialization protocol, based on DataInput and DataOutput. Any key or value type in the Hadoop Map-Reduce framework implements this interface. Implementations typically implement a static read(DataInput) method which constructs a new instance, calls readFields(DataInput) and returns the instance. http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop
- Dokumentenname
- Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- Schule / Kurs
- University of Maryland · Khai phá dữ liệu
- Inhalt
- Tài liệu này giới thiệu về lập trình Hadoop, tập trung vào mô hình MapReduce, các thành phần như Mapper, định dạng dữ liệu Writable, và cách cấu hình một Job MapReduce.
- Inhaltsverzeichnis
- Overview
- Mapper
- What is Writable?
- Writable
- Getting Data To The Mapper
- Seiten
- 33 Seiten
- Hochgeladen von
- Uni24h
Kommentare (0)
Noch keine Kommentare. Seien Sie der Erste!
Relational Data Processing on MapReduce (Xử lý dữ liệu quan hệ trên MapReduce)
IoT Data Analytics (Phân tích dữ liệu trong Internet vạn vật)
Colocation 2 (Khám phá mẫu colocation trong dữ liệu không gian) - Zhe Jiang
Big Data Processing and Analytics Intro (Xử lý và phân tích dữ liệu lớn)
Basic association analysis (Chap 6) (Thuật toán trong phân tích kết hợp)
Tổng hợp Đề Toán 5 - Luyện thi vào Lớp 6 - CLB EMath
Bài giảng vật lý đại cương (Chương 3) - Đỗ Ngọc Uấn
Chương 8.Nguyên tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang
Chương 7.Cơ học lượng tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang
Chương 6.Quang học lượng tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang

Kommentare (0)
Noch keine Kommentare. Seien Sie der Erste!