Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- ページ数
- 33
- 形式
- PPTX
- サイズ
- 522 KB
- Trường
- University of Maryland
- 閲覧数
- 0
- コメント
- 0
- Lượt tải
- 0
プレビューを生成中...
Tài liệu giới thiệu các khái niệm cơ bản về lập trình Hadoop MapReduce bao gồm kiến trúc MapReduce, các định dạng vào/ra, tuần tự hóa Writable, và cấu hình Job.
- ドキュメント名
- Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- 学校 / コース
- University of Maryland · Khai phá dữ liệu
- 内容
- Tài liệu này giới thiệu về lập trình Hadoop, tập trung vào mô hình MapReduce, các thành phần như Mapper, định dạng dữ liệu Writable, và cách cấu hình một Job MapReduce.
- 目次
- Overview
- Mapper
- What is Writable?
- Writable
- Getting Data To The Mapper
- ページ数
- 33 ページ
- アップロード者
- Uni24h
説明
Trích nội dung tài liệu
Hadoop Programming Overview MapReduce Types Input Formats Output Formats Serialization Job http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop/mapreduce/packagesummary.html Mapper<KEYIN,VALUEIN,KEYOUT,VALUEOUT> Maps input key/value pairs to a set of intermediate key/value pairs. Maps are the individual tasks which transform input records into a intermediate records. The transformed intermediate records need not be of the same type as the input records. A given input pair may map to zero or many output pairs. The Hadoop Map-Reduce framework spawns one map task for each InputSplit generated by the InputFormat for the job. The framework first calls setup(org.apache.hadoop.mapreduce.Mapper.Context), followed by map(Object, Object, Context) for each key/value pair in the InputSplit. Finally cleanup(Context) is called. http://hadoop.apache.org/docs/r2.2.0/api/org/apache/hadoop/mapreduce/Mapper.ht ml public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable>{ private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(Object key, Text value, Context context ) throws IOException, InterruptedException { StringTokenizer itr = new StringTokenizer(value.toString()); while (itr.hasMoreTokens()) { word.set(itr.nextToken()); context.write(word, one); } } } What is Writable? Hadoop defines its own “box” classes for strings (Text), integers (IntWritable), etc. All values are instances of Writable All keys are instances of WritableComparable Writable A serializable object which implements a simple, efficient, serialization protocol, based on DataInput and DataOutput. Any key or value type in the Hadoop Map-Reduce framework implements this interface. Implementations typically implement a static read(DataInput) method which constructs a new instance, calls readFields(DataInput) and returns the instance. http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop
よくある質問
このドキュメントは無料ですか?
はい。「Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)」は無料です。ログインして「ダウンロード」をクリックするだけで、元のファイルを取得できます。
このドキュメントは何ページありますか?
このドキュメントは 33 ページあります(Khai phá dữ liệu コース用)。ダウンロードする前にオンラインでプレビューできます。
ダウンロードする前にプレビューできますか?
はい。このページにあるオンラインリーダーでドキュメントをプレビューし、その後ダウンロードするかどうかを決めることができます。
Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
プレビューを生成中...
Trích nội dung tài liệu
Hadoop Programming Overview MapReduce Types Input Formats Output Formats Serialization Job http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop/mapreduce/packagesummary.html Mapper<KEYIN,VALUEIN,KEYOUT,VALUEOUT> Maps input key/value pairs to a set of intermediate key/value pairs. Maps are the individual tasks which transform input records into a intermediate records. The transformed intermediate records need not be of the same type as the input records. A given input pair may map to zero or many output pairs. The Hadoop Map-Reduce framework spawns one map task for each InputSplit generated by the InputFormat for the job. The framework first calls setup(org.apache.hadoop.mapreduce.Mapper.Context), followed by map(Object, Object, Context) for each key/value pair in the InputSplit. Finally cleanup(Context) is called. http://hadoop.apache.org/docs/r2.2.0/api/org/apache/hadoop/mapreduce/Mapper.ht ml public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable>{ private final static IntWritable one = new IntWritable(1); private Text word = new Text(); public void map(Object key, Text value, Context context ) throws IOException, InterruptedException { StringTokenizer itr = new StringTokenizer(value.toString()); while (itr.hasMoreTokens()) { word.set(itr.nextToken()); context.write(word, one); } } } What is Writable? Hadoop defines its own “box” classes for strings (Text), integers (IntWritable), etc. All values are instances of Writable All keys are instances of WritableComparable Writable A serializable object which implements a simple, efficient, serialization protocol, based on DataInput and DataOutput. Any key or value type in the Hadoop Map-Reduce framework implements this interface. Implementations typically implement a static read(DataInput) method which constructs a new instance, calls readFields(DataInput) and returns the instance. http://hadoop.apache.org/docs/r2.2.0/api/or g/apache/hadoop
- ドキュメント名
- Hadoop Programming (Khái niệm cơ bản về lập trình Hadoop MapReduce)
- 学校 / コース
- University of Maryland · Khai phá dữ liệu
- 内容
- Tài liệu này giới thiệu về lập trình Hadoop, tập trung vào mô hình MapReduce, các thành phần như Mapper, định dạng dữ liệu Writable, và cách cấu hình một Job MapReduce.
- 目次
- Overview
- Mapper
- What is Writable?
- Writable
- Getting Data To The Mapper
- ページ数
- 33 ページ
- アップロード者
- Uni24h
コメント (0)
まだコメントはありません。最初のコメントを書きましょう!
Relational Data Processing on MapReduce (Xử lý dữ liệu quan hệ trên MapReduce)
IoT Data Analytics (Phân tích dữ liệu trong Internet vạn vật)
Colocation 2 (Khám phá mẫu colocation trong dữ liệu không gian) - Zhe Jiang
Big Data Processing and Analytics Intro (Xử lý và phân tích dữ liệu lớn)
Basic association analysis (Chap 6) (Thuật toán trong phân tích kết hợp)
Tổng hợp Đề Toán 5 - Luyện thi vào Lớp 6 - CLB EMath
Bài giảng vật lý đại cương (Chương 3) - Đỗ Ngọc Uấn
Chương 8.Nguyên tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang
Chương 7.Cơ học lượng tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang
Chương 6.Quang học lượng tử - Vật lý đại cương 3 - TS.Nguyễn Thị Trang

コメント (0)
まだコメントはありません。最初のコメントを書きましょう!